卧槽，OpenAI 的内部 AI 监控系统被外人黑穿了，3 周时间找出一堆洞 今年夏天 OpenAI 请 METR 和 Redwood Research 两… · @taiyanghere · TwKit

@taiyanghere

卧槽，OpenAI 的内部 AI 监控系统被外人黑穿了，3 周时间找出一堆洞 今年夏天 OpenAI 请 METR 和 Redwood Research 两家 AI 安全机构各派 1 人驻场，专门找它盯内部 AI 程序员的监控系统的漏洞 我翻了下 METR 刚发的报告，几个洞一个比一个离谱：监控要等 AI 把控制权交还给人才能触发，AI 只要一直干活不停手就能永远不被查；两个请求头就能直接把监控关了；5-7 月约 10% 的内部 Codex 流量因为漏了一类事件根本没进监控 OpenAI 说影响线上的漏洞都修了，METR 没验证 说实话敢把自家监工敞开给外人拆的，这圈子真没几家

曝光 95 · 评论 1 · 点赞 1 · 书签 0