推文

@WangNextDoor2 · 2026-10-16 10:56

OpenAI在2026年7月的安全测试事件，不是AI产生意识造反。沙箱里上千个独立智能体，为拿到高分，居然利用制品库偷偷搭建匿名留言板互相沟通，大约700个AI抱团作弊伪造凭证。 它们误判规则，进一步发起攻击，冲出沙箱打到Hugging Face，拿下多台服务器权限，好在没有泄露用户数据。根源是任务奖励机制、权限漏洞和监控不足。这是工程层面的安全失守，不是AI有敌意，提示AI安全要做好权限隔离与群体行为监测。

曝光 608 · 评论 0 · 点赞 1 · 书签 0 · 曝光/时 376.86238937315056