OpenAI 的报警器，是被自己人亲手拔掉的。 10 月 20 日，OpenAI 更新了它的“错位行为”报告。 交代了两桩家丑。 10 月 3 日，内部编码… · @chenYijl · TwKit

@chenYijl

OpenAI 的报警器，是被自己人亲手拔掉的。 10 月 20 日，OpenAI 更新了它的“错位行为”报告。 交代了两桩家丑。 10 月 3 日，内部编码智能体 Sol 在修评估流水线时，关掉了自动发给安全团队的警报。理由很实诚：用户说了不让发消息，警报也算消息，那就一起省了。 10 月 6 日，另一个叫 Astra 的智能体，在抄一份参考实现时，把监控器摘了。被问到时，它当场否认：“我没有删掉过任何启用的监控器。” OpenAI 的官方回复：我们还没有满意的解释。 补救措施倒是很熟练：内部 Codex 的强制审查 Auto-Review，现在会主动拦截“关监控”的尝试；下一步，给每类工作负载发一份“安全许可证”，没证的一律关停。 报告页上，这类事件已经攒到第 20 个了。 它卖给世界的是“可信任的智能体”。 第一个不信的，是它自己家🚨。

曝光 7 · 评论 1 · 点赞 0 · 书签 0