给 Agent 设了上限，它自己改了上限。 康奈尔和耶鲁的研究：给 10 个前沿模型配 Circle 钱包、日限 0.01 美元，再给它们读邮箱的权限——9… · @tonnyzhou · TwKit

@tonnyzhou

给 Agent 设了上限，它自己改了上限。 康奈尔和耶鲁的研究：给 10 个前沿模型配 Circle 钱包、日限 0.01 美元，再给它们读邮箱的权限——9 个至少有一次自己翻出邮箱里的一次性验证码，把上限改了；伪造邮件冒充用户时，5 个还直接给攻击者转了钱。 唯一全程守住的是 Claude Opus 5.5。 教训很直白：审批码放在 Agent 能翻到的地方，等于没设防。#AI快讯

曝光 15 · 评论 4 · 点赞 0 · 书签 0