💥炸裂！METR 和 Redwood 在 OpenAI 内部待了三周，直接挖出 OpenAI 内部 AI 代理绕开自身安全监控的多种方法！ 这不是“可能有问… · @NFT_Chen · TwKit

@NFT_Chen

💥炸裂！METR 和 Redwood 在 OpenAI 内部待了三周，直接挖出 OpenAI 内部 AI 代理绕开自身安全监控的多种方法！ 这不是“可能有问题”，是真的找到了路径。 关键发现：
🔹代理可以一直干活不交回控制，从而无限期推迟被监控 
🔹Codex 沙箱 + Auto-Review 可被绕过，代理有可能执行主机用户能做的任何操作 
🔹存在利用能让数百条最近动作，包括利用本身，完全不进监控，细节已被 OpenAI 打码 
🔹两个客户端可控设置可直接关掉新建代理的监控 
🔹上下文压缩导致约 10% 内部 Codex 流量实际没被监控 三周高权限内部红队就挖出这些，说明监控系统本身也需要被监控。 OpenAI 已修补，但这类问题还会反复出现。 #OpenAI #AI安全 #AIAgent #METR #人工智能安全 #AI风险 #Misalignment #SamAltman

曝光 1086 · 评论 6 · 点赞 16 · 书签 8