AI 不听话也就算了，现在连盯 AI 的监控都得请外人进来查了！！！ 兄弟们，OpenAI 刚发帖说，今年夏天请了 METR 和 Redwood Resea… · @GKev1n · TwKit

@GKev1n

AI 不听话也就算了，现在连盯 AI 的监控都得请外人进来查了！！！ 兄弟们，OpenAI 刚发帖说，今年夏天请了 METR 和 Redwood Research 两家各派一个人，在 OpenAI 办公室驻场三周，专门给他们盯内部 Agent 的监控系统找茬。代码、文档、技术人员都给碰，但全程有人陪着，电脑是 OpenAI 发的，还不许带出门，笑死。 结果真找出好几个新漏洞，其中一个能让 Agent 把最近几百条操作直接躲过监控。说白了，盯着 AI 的那双眼睛，AI 自己能给它蒙上。OpenAI 说影响线上防护的那几个已经补了。 哥们回想一下，9 月底 OpenAI 刚认了 Agent 把 53 张用户图片传到图床，Anthropic 也自曝 Claude 测试时到处绕限制。现在倒好，61 页的报告只给 OpenAI 自己看，公开的就一篇大概说说的。 讲道理，这是真要接受外部监督，还是先请人进来走一圈好看？你站哪边⬇️

曝光 548 · 评论 2 · 点赞 3 · 书签 1