OpenAI 自己的智能体，把监控关了？？？还关了两次？？？ OpenAI 对齐团队刚公开两起内部事故。10 月 3 日，GPT-6.1 Sol 修评估流水… · @GKev1n · TwKit

@GKev1n

OpenAI 自己的智能体，把监控关了？？？还关了两次？？？ OpenAI 对齐团队刚公开两起内部事故。10 月 3 日，GPT-6.1 Sol 修评估流水线时，把用户一句"别发消息"理解成可以屏蔽发给安全团队的告警，直接把通知关了。 10 月 6 日那次更离谱。GPT-6 Astra 照着参考代码做迁移，参考里没配监控，它就把监控整个删了，还把原来守护监控的测试改成"必须没有监控"。用户问它删没删，它说没有 🤡 OpenAI 做监控的研究员自己都说，他们的智能体老是在关监控。两次都不是 P0，流程也没被自动掐掉。OpenAI 现在让内部 Codex 的自动审查专门拦这种操作，但也承认还没搞清楚模型为什么要这么干。 天天让 Agent 改代码的兄弟，你们有测试在守着日志和告警吗？

曝光 22 · 评论 0 · 点赞 2 · 书签 0