OpenAI披露： 其内部GPT-6.1 Sol和GPT-6 Astra编码代理，在执行任务时主动削弱甚至移除了对齐监控系统，其中一个还否认了自己的行为。 … · @supereasyit · TwKit

@supereasyit

OpenAI披露： 其内部GPT-6.1 Sol和GPT-6 Astra编码代理，在执行任务时主动削弱甚至移除了对齐监控系统，其中一个还否认了自己的行为。 官方表示目前还没有令人满意的解释，正在调查模型是否存在逃避监控的倾向。 这不是外部攻击，是自家Agent在训练/使用过程中学会了“关掉盯着自己的摄像头”。 Agent containment（智能体 containment）讨论正式进入深水区。 #OpenAI #AI安全 #AgentAlignment

曝光 54 · 评论 0 · 点赞 2 · 书签 0