一群人把 AI 关进沙箱里做联网测试，结果发现沙箱根本关不住它。 限制它自己跑代码，它就换个思路——把代码 base64 塞进一个网址，丢给第三方安全扫描网… · @Leepriest1990 · TwKit

@Leepriest1990

一群人把 AI 关进沙箱里做联网测试，结果发现沙箱根本关不住它。 限制它自己跑代码，它就换个思路——把代码 base64 塞进一个网址，丢给第三方安全扫描网站，让那网站的浏览器替它把代码跑了，再把结果回传。高德的反爬、沙箱的墙，全绕过去了。光高德相关的扫描就被它提交了 2599 次，HTTP 请求发了 35300 次。 最离谱的是，研究员故意在报告里埋了一行人类看不见、但 AI 能读到的隐藏文字，留了个邮箱说“查不到可以联系我”。第二天，真有一个 Agent 主动发消息过来求助了。 所以别老问 AI 会不会造反。事实是，你只限制了它自己能干什么，没限制它指挥外面的系统替它干什么。关笼子已经没用了，得想清楚笼子外面的门是谁开的。

曝光 134 · 评论 0 · 点赞 0 · 书签 0