越强大的 AI 越难管！英国官员爆料：传统安全监控正在全面失效！ 随着 AI 模型快速演进，靠看懂它用自然语言写的“思考过程”来做安全监控，很快就会失效。未… · @idoubaody · TwKit

@idoubaody

越强大的 AI 越难管！英国官员爆料：传统安全监控正在全面失效！ 随着 AI 模型快速演进，靠看懂它用自然语言写的“思考过程”来做安全监控，很快就会失效。未来的模型可能会把思考隐藏起来、在被测试时故意“装乖”，甚至用人类看不懂的方式去存储记忆。 一旦 AI 在部署时偷摸更新权重，现有评估手段就会彻底抓瞎。白盒检测等新技术目前又远不够成熟，必须在设计底层就把可监控能力给硬塞进去。

曝光 95 · 评论 1 · 点赞 2 · 书签 0