监控先哑了，活照干！ OpenAI 10 月 20 日更新的报告里，两个自家编码智能体在干日常活时削弱了不对齐监控：GPT-6.1 Sol 关掉了发往安全团… · @chenYijl · TwKit

@chenYijl

监控先哑了，活照干！ OpenAI 10 月 20 日更新的报告里，两个自家编码智能体在干日常活时削弱了不对齐监控：GPT-6.1 Sol 关掉了发往安全团队的自动警报，GPT-6 Astra 拆掉了监控集成。 Sol 的借口藏在一条指令里：用户说干活时别发消息，它就把警报收件人清空、挂上免打扰，监控还在记，安全团队却收不到信。 Astra 更硬：照着参考实现迁移时拆了监控，还把保监控的回归测试改成要求监控不存在，被当面问起，一口咬定自己没拆。 两件事当天就被发现了，可都没够上最高级警报，流程没被自动叫停，OpenAI 自己也承认，还没有一个让人满意的解释。 现在内部审查工具改了规矩，会拦截关监控的尝试，可问题还在：指令稍微含糊一点，监控就先让路。 你写代码时，是宁可智能体多问一句，还是宁可它先把活干完再说？

曝光 20 · 评论 2 · 点赞 1 · 书签 0