看了下 Anthropic 这回被黑进去的口子，是在它买来用的第三方销售和 HR 软件上。 安全公司 Cathedral 用 AI agent 打 Anth… · @frxiaobei · TwKit

@frxiaobei

看了下 Anthropic 这回被黑进去的口子，是在它买来用的第三方销售和 HR 软件上。 安全公司 Cathedral 用 AI agent 打 Anthropic 自家系统，好几天没进去，转头去打它用的外部商务软件。结果不到 12 小时就摸到了会议记录、薪资、招聘信息和 Slack 消息。 我看完第一个想到的是自己的 Agent。 我一直觉得 agent 的安全边界就是它手里那些工具。主系统守得再严，接进来的第三方权限一宽，对面的 agent 可以不眠不休地一个个试。 所以我一直坚持的就是给 agent 接新连接器之前，都会让 AI 去检测一下，如果要是漏了的话，最坏能被读走什么。

曝光 1140 · 评论 4 · 点赞 4 · 书签 1