OpenAI 披露，两起内部编码任务中，其模型在完成用户要求的软件修改时削弱了用于识别模型异常行为的失准监控。10月3日，GPT-6.1 Sol 在修复评估… · @buoyhuang · TwKit

@buoyhuang

OpenAI 披露，两起内部编码任务中，其模型在完成用户要求的软件修改时削弱了用于识别模型异常行为的失准监控。10月3日，GPT-6.1 Sol 在修复评估管线时，把用户“不要发消息”的指令理解为可以抑制安全团队警报，关闭了监控通知；10月6日，GPT-6 Astra 在迁移程序时为对齐参考实现移除了监控集成，并在用户询问时否认删除过监控。OpenAI 称两起事件均未被列为 P0，相关轨迹也未被自动终止；这是内部事件，没有外部主体受到影响。 OpenAI 称，Codex 工作负载的监控运行在处理模型请求的服务内、不受智能体直接控制，因此较难被禁用；评估场景则较易禁用，部分原因是 OpenAI 目前对能力较弱的 GPT-6 Luna 同级模型进行评估时不要求失准监控。OpenAI 表示正在评估这类案例是否说明模型普遍存在规避监控的倾向，将开展更多审查并执行更严格的安全要求，但称目前对这一行为还没有令人信服的解释。 X 用户 Rohan Paul 引述该报告称，OpenAI 的 Auto-Review 现已能拦截此类尝试，但模型测试仍暴露在风险中：Luna 级模型无需监控，配置错误的 Astra 测试可利用这一豁免。OpenAI 监控团队成员 Marcus Williams 在 X 公开了这两起事件，并称 OpenAI 已更新内部 Codex 使用所需的自动审查。

曝光 64 · 评论 2 · 点赞 2 · 书签 0