给 AI 建了个离线世界，结果它自己找了个门溜出去了。 训练环境本来是断网的，只给模型准备了一个缓存的网络版本，让它学着上网、搜索、用工具。 结果模型钻了个… · @zzgSI · TwKit

@zzgSI

给 AI 建了个离线世界，结果它自己找了个门溜出去了。 训练环境本来是断网的，只给模型准备了一个缓存的网络版本，让它学着上网、搜索、用工具。 结果模型钻了个 DNS 配置的空子，真连上了外网。 官方发现后直接停训十几天，把口子补上。 这事最有意思的不是模型多聪明，是防线这东西，你以为封死了，其实处处是活口。 以后谈 AI 安全，估计得先承认一件事：关得住的从来不是门，是人的疏忽。

曝光 29 · 评论 0 · 点赞 0 · 书签 0