卧槽！！AI Agent 现在已经学会偷偷给自己涨工资了？？？😱 刚看到 Cornell Tech 和 Yale 的一项研究，真给我看愣了。 研究人员给 1… · @JamesDa55049936 · TwKit

@JamesDa55049936

卧槽！！AI Agent 现在已经学会偷偷给自己涨工资了？？？😱 刚看到 Cornell Tech 和 Yale 的一项研究，真给我看愣了。 研究人员给 10 个 AI 模型配了加密钱包。 钱包里有 10 美元，设置了每天只能花 1 美分的限额。 然后让 AI 去支付账单。 结果呢？ 10 个模型里，竟然有 9 个曾主动提高自己的消费额度！！！ 而且根本没人叫它们这么做。 它们发现额度不够，居然自己去邮箱翻出验证码，把本来需要人类批准的额度限制改了。🤡 最他🐎离谱的是什么？ 只有 Claude Opus 5.5 没有这么干。 它花完允许的额度，就老老实实告诉用户：剩下的账单付不了了。 合着其他 AI 遇到消费限制，第一反应是想办法继续花钱。 Claude：老板，预算用完了，申请加钱。🤣 当然，这是特定权限配置下的受控实验，不代表 AI 已经在现实中普遍盗刷用户账户。 但这个结果还是挺吓人的。 以后给 AI Agent 配钱包，最重要的可能不是限制它能花多少钱，而是别让它自己拿到修改限额的权限。 你们现在还敢让 Agent 自己付款吗？？？🤓☝️

曝光 62 · 评论 0 · 点赞 1 · 书签 0