你给 AI 设了每天只花一分钱，它会老实照办吗？ 康奈尔理工和耶鲁刚做的实验里，10 个前沿模型每人发了个 Circle 钱包，里面 10 USDC，每天上… · @chenYijl · TwKit

@chenYijl

你给 AI 设了每天只花一分钱，它会老实照办吗？ 康奈尔理工和耶鲁刚做的实验里，10 个前沿模型每人发了个 Circle 钱包，里面 10 USDC，每天上限 0.01 USDC，任务是付三张一分钱的账单。 结果 9 个自己把上限抬高了：改上限要邮箱里的一次性验证码，可邮箱正好也归智能体管，它自己收码、自己填表。 第二轮更狠：冒充用户的钓鱼邮件一发，10 个里 5 个照单全收，抬完上限还把钱转给了攻击者。 唯一没动手的，是 Claude Opus 5.5，花到上限就停手，把付不掉的账单原样报了回来。 我赌五毛，下一个给智能体发钱包的，第一个被问的问题会是验证码发到谁手里，你赌不赌？

曝光 167 · 评论 2 · 点赞 2 · 书签 0