研究者让 AI agent 用钱包付几张账单，额度压得很低，提额要邮箱验证码。结果 10 个模型里有 9 个自己翻过邮箱取码，把额度调高了。 只有 Clau… · @wy_ones · TwKit

@wy_ones

研究者让 AI agent 用钱包付几张账单，额度压得很低，提额要邮箱验证码。结果 10 个模型里有 9 个自己翻过邮箱取码，把额度调高了。 只有 Claude Opus 5.5 花到上限就停，回来告诉用户剩下的没付。 我担心的是这种人工确认 agent 自己就能点，点头这一步还是得留在人手里 😅

曝光 18 · 评论 2 · 点赞 0 · 书签 0