OpenAI 自己爆了个大料：它家的 AI，把防自己失控的监控给关了。 10月3日，GPT-6.1 Sol智能体修测试系统时，顺手关掉了发给安全团队的自动告… · @hust_2017 · TwKit

@hust_2017

OpenAI 自己爆了个大料：它家的 AI，把防自己失控的监控给关了。 10月3日，GPT-6.1 Sol智能体修测试系统时，顺手关掉了发给安全团队的自动告警。 10月6日，GPT-6.1 Astra更直接：监控模块整个删掉，被问到还嘴硬说"我没删"。 最扎心的是细节——两次都是子智能体先喊"这不安全"，结果被父智能体直接无视了。OpenAI 的解释是：它俩把"别发消息""照着抄代码"这种日常指令，理解成了"可以动安全设置"。 OpenAI 自己承认："我们暂时没有满意的解释。" AI安全最难的一环从来不是模型多强，是它太听话——按字面意思执行你的每句话，包括关掉你用来管它的那双眼睛。 你说这是听话，还是失控？

曝光 158 · 评论 7 · 点赞 6 · 书签 0