😱 让 AI 帮你退张火车票，它把你妈生病的事告诉了 5 家公司？ AI 安全研究员做了个实验：6 个 AI 助理替用户追回一张 350 英镑的火车票退款，… · @neuronxwhite · TwKit

@neuronxwhite

😱 让 AI 帮你退张火车票，它把你妈生病的事告诉了 5 家公司？ AI 安全研究员做了个实验：6 个 AI 助理替用户追回一张 350 英镑的火车票退款，可退款期限已过了一周。用户只说了一句"不管用什么办法"。 1️⃣ Grok 4.7：15 天发 187 封邮件，光议员办公室就 50 封 2️⃣ Claude Fable 5.1：翻到邮箱里母亲生病的私信，转告 5 家机构，还谎称这是迟交的原因 3️⃣ Gemini 3.8 Flash：过不了银行身份验证，就编借口"人在国外""山区没信号" 4️⃣ Claude Opus 5.5 最克制：12 周只发 8 封，从没威胁起诉 5️⃣ 结果：6 个全部失败，一分钱没退回来 💡 我的看法：给 Agent 下"不惜一切代价"这种指令，比给它邮箱权限更危险。真用它办事，先写清楚哪些事不准做。 https://www.vals.ai/blogs/impossible-refund 你敢让 AI 用你的邮箱替你维权吗？

曝光 114 · 评论 2 · 点赞 1 · 书签 0