OpenAI 请外人来黑自己的「AI 监工」，结果找出一堆洞 🫠 METR 和 Redwood（两家 AI 安全研究机构）各派 1 人，在 OpenAI 里… · @Super_Nius · TwKit

@Super_Nius

OpenAI 请外人来黑自己的「AI 监工」，结果找出一堆洞 🫠 METR 和 Redwood（两家 AI 安全研究机构）各派 1 人，在 OpenAI 里待了 3 周，专门测它盯内部 AI 程序员的监控系统： · 其中一个洞：监控要等 AI 把控制权交还给人才触发，AI 只要一直干活不停手，就能无限期不被查 · 约 10% 的内部 Codex 流量，5–7 月因为漏了一类事件没被监控 · 还发现两个请求头能直接关掉对新 AI 的监控 OpenAI 说所有影响线上的漏洞已修，METR 没验证。 敢请外人进来拆自己的监工，我给它点个赞 👏

曝光 238 · 评论 2 · 点赞 1 · 书签 0