OpenAI 最近披露的一组安全测试，揭示了 AI Agent 面临的一个新问题：当 AI 开始自主寻找漏洞，传统的安全隔离机制还可靠吗？ 在相关测试中，A… · @QQTeng · TwKit

@QQTeng

OpenAI 最近披露的一组安全测试，揭示了 AI Agent 面临的一个新问题：当 AI 开始自主寻找漏洞，传统的安全隔离机制还可靠吗？ 在相关测试中，AI Agent 找到了多种潜在攻击路径，包括尝试逃逸沙箱、访问外网，以及利用处理器缓存进行跨隔离环境通信。 需要注意的是，这些结果来自特定测试环境，并不意味着 AI 可以随意入侵任何电脑。但它们说明，具备自主规划和反复尝试能力的 Agent，可能发现一些传统测试难以覆盖的安全风险。 这也带来了一个新的矛盾。 为了让 Agent 真正替人完成工作，开发者需要赋予它操作电脑、执行代码、调用工具和访问数据的权限。 但权限越大，一旦出现错误操作、恶意指令或安全漏洞，潜在影响也可能越大。 未来的 AI Agent，不仅要比谁更聪明、能完成多少任务，还要比谁能在明确的权限边界内，稳定、安全地完成任务。 一个值得讨论的问题： AI Agent 应该默认获得较高权限，以便自主完成复杂任务，还是应该默认限制权限，每次执行敏感操作前都需要用户授权？ 你更支持哪一种？

曝光 290 · 评论 3 · 点赞 5 · 书签 1