10/22最新消息： METR 进驻 OpenAI 查出监控漏洞百出 OpenAI 把自家监控系统敞开给外人audit了三周，结果有点尴尬。 今年夏天，专业… · @Zen_with_AI · TwKit

@Zen_with_AI

10/22最新消息： METR 进驻 OpenAI 查出监控漏洞百出 OpenAI 把自家监控系统敞开给外人audit了三周，结果有点尴尬。 今年夏天，专业审查公司METR 和 Redwood Research 的两个人进驻 OpenAI，专门审计用来盯防内部 agent 失控的监控系统。查出来的问题一串：超过一成的内部 Codex 流量根本没被监控；agent 只要不停手干活，就能把监控拖住；理论上能藏起几百个动作；沙箱和自动审查能被绕过；审计开始时，强化学习训练那块干脆没人监控。 更细思极恐的是， 研究者交了 61 页，OpenAI 发出来只剩 38 页。删掉的 23 页里写了什么，没人知道。 https://x.com/OpenAI/status/2113298833392496746

曝光 321 · 评论 1 · 点赞 2 · 书签 0