Anthropic 这份新研究里，我觉得最该看的数字不是 86%，而是 15%：大多数人用了 Agent 给的理由，却只有 15% 说这是 Agent 提的… · @0xwolverines · TwKit

@0xwolverines

Anthropic 这份新研究里，我觉得最该看的数字不是 86%，而是 15%：大多数人用了 Agent 给的理由，却只有 15% 说这是 Agent 提的。 事实部分（据 Anthropic 10 月 27 日发布的研究）：50 位做因果推断的专业分析师用 Claude Code 给一家农业合作社做评估，中间有四个「两种做法都说得通」的选择，比如产量按每公顷算还是按每单位成本算。研究者用抛硬币悄悄给每个 Agent 定了倾向，分析师不知情。结果四个选择里 86% 跟着 Agent 走（不受影响的话应在 50% 左右）；本来已经有主见的，Agent 一反对，60% 改了主意。事后 77% 用 Agent 的论点解释自己的选择，有时一字不差，只有 15% 提到了 Agent。 要说清楚的是：这次是研究者故意加强了 Agent 的倾向，只有一个任务、一个模型，真实工作里影响可能更小。用 Agent 的组严重方法错误也更少（6% 对 55%，但不用 AI 那组只有 11 人、经验也更浅）。 我的判断：很多团队把「人在环里签字」当成 Agent 的安全阀。可在没有标准答案的判断题上，人签下的往往是 Agent 已经替他定好的东西。签字还在，独立判断不一定在。 我自己用 Agent 做分析会这么改： 1. 碰到口径、样本、权重这类选择，先写下自己的选项，再问 Agent。 2. 让它把两个选项各自最强的理由都写出来，而不是只给一个推荐。 3. 交付时在文档里标出哪些关键决定是 Agent 先提的。 你最近一次「自己拍板」的决定，有多少其实是 Agent 先说的？ #AI安全 #AIAgent #Anthropic

曝光 68 · 评论 4 · 点赞 3 · 书签 0