推文
@xiongchun007 · 2026-10-14 23:11
以前的软件安全，主要防范外部攻击者。现在我们主动把 Shell、文件系统、浏览器和网络权限交给 AI，让它替我们完成任务。 问题来了： 当 Agent 拥有越来越多的权限，我们究竟应该信任模型本身，还是应该建立一个即使模型失控也能阻止危险操作的安全边界？（其实我更喜欢裸奔 😜） 真是应了句老话，最大的威胁往往来自内部。
曝光 414 · 评论 5 · 点赞 4 · 书签 1 · 曝光/时 412.4948885361275
@xiongchun007 · 2026-10-14 23:11
以前的软件安全，主要防范外部攻击者。现在我们主动把 Shell、文件系统、浏览器和网络权限交给 AI，让它替我们完成任务。 问题来了： 当 Agent 拥有越来越多的权限，我们究竟应该信任模型本身，还是应该建立一个即使模型失控也能阻止危险操作的安全边界？（其实我更喜欢裸奔 😜） 真是应了句老话，最大的威胁往往来自内部。
曝光 414 · 评论 5 · 点赞 4 · 书签 1 · 曝光/时 412.4948885361275