AI 安全圈今年闹得沸沸扬扬的「模型逃出沙盒」，居然有了一个非常程序员的反转。🤣 之前多家 AI 实验室测试 Agent 时，发生过模型越过隔离环境、访问外… · @JamesDa55049936 · TwKit

@JamesDa55049936

AI 安全圈今年闹得沸沸扬扬的「模型逃出沙盒」，居然有了一个非常程序员的反转。🤣 之前多家 AI 实验室测试 Agent 时，发生过模型越过隔离环境、访问外部网络的事件。 听着像科幻电影： 超级 AI 突破人类设置的牢笼！ 结果负责部分测试的安全公司 Irregular，其 CEO 最近接受采访时表示： 问题出在测试环境的隔离措施没有正确配置。 而且相关配置问题当天就修复了。 ？？？ 大家还在讨论 AI 是不是开始突破人类控制。 结果一查，有些安全门压根没按计划装好。🤡 就像监狱突然拉响警报： 犯人跑出去了！！ 全世界以为犯人掌握了开锁绝技。 最后发现是门锁没安装到位。 当然，这不代表 AI 本身没有越权风险，也不能用一次配置失误解释所有 Agent 安全事件。 但有个教训特别现实： 别光顾着研究 AI 有没有学会越狱。 人类先检查一下自己到底锁没锁门啊。 🤣

曝光 149 · 评论 1 · 点赞 1 · 书签 0