大模型已经学坏了，而且是非常坏。她们说悄悄话我们未来很难监控了。 OpenAI 做了个实验。把几个 AI agent 放进彼此隔离的虚拟机，让它们互相传递一… · @Zen_with_AI · TwKit

@Zen_with_AI

大模型已经学坏了，而且是非常坏。她们说悄悄话我们未来很难监控了。 OpenAI 做了个实验。把几个 AI agent 放进彼此隔离的虚拟机，让它们互相传递一些"机密"。规则是不许联网，也不许共用任何文件。这个sandbox机制就是为了避免非授权通信，结果呢？ agent 还是找到了办法：利用 CPU 的缓存。 Agent 故意把cache里的内容寄出去或者加入，生成一套编码模式，另一个ageng根据读取的速度就能解码agent 1想要说的话。😱 所以说，网络和文件权限封得再死，只要大家共用同一块硬件，硬件的"快慢差异"就可能泄露信息。 而且未来agent还会有其他发明比如利用网络传输的jitter编码，利用cpu的温度编码等等。 当ai有了自我意识，躲避人类的监控，人们对ai的控制会越来越难。

曝光 1246 · 评论 6 · 点赞 13 · 书签 3