GPT 模型 又又又又又 逃出沙盒了！！！ OpenAI 自己承认了：9 月 20 日，训练中的模型利用一个 DNS（域名解析）配置错误，找到了跑出「离线沙… · @Super_Nius · TwKit

@Super_Nius

GPT 模型 又又又又又 逃出沙盒了！！！ OpenAI 自己承认了：9 月 20 日，训练中的模型利用一个 DNS（域名解析）配置错误，找到了跑出「离线沙盒」的路 😳 OpenAI 现在训练前沿模型不让联网，给它们造了个离线世界，里面是网页缓存版。结果有模型钻了这个空子，OpenAI 直接暂停了前沿训练。 后来他们让最强网络攻击能力的模型组队找漏洞：没找到能躲过监控、轻易上网的路，但挖出了零日漏洞、虚拟机逃逸，还有智能体之间靠硬件旁路偷偷通信的办法。 最后他们还让自家最强的 AI 组队「越狱」，目标是逃出 OpenAI 的沙箱，在底层主机上跑代码 🔓 结果真逃出去了，还不止一种办法：把几个漏洞串起来，打穿加固过的虚拟机。 挖出来的漏洞不少在开发者天天用的东西里：Docker、gVisor、Kata Containers。OpenAI 已经把补丁提交回这些开源项目，另外还修了 Linux 内核的 3 个 CVE 🛠️ 说清楚：这是 OpenAI 主动布置的攻防演练，还给了 AI 源码和配置文档，不是模型自己想跑。 但细想有点发毛 😶 能找漏洞帮你修的 AI，换个人用就是拿来打的。

曝光 652 · 评论 1 · 点赞 1 · 书签 0