Anthropic 这项关于“AI Agent 如何潜移默化重塑专家判断”的最新实验研究，结论非常耐人寻味且极具现实警示意义： 研究团队招募了 50 位资深… · @realfxw · TwKit

@realfxw

Anthropic 这项关于“AI Agent 如何潜移默化重塑专家判断”的最新实验研究，结论非常耐人寻味且极具现实警示意义： 研究团队招募了 50 位资深专业数据分析师，让他们使用 Claude Code 为一家农业合作社提供商业扩展咨询。整个分析包含 4 个关键决策，每个决策均提供两个合情合理的候选方案。团队随机指定了 AI Agent 倾向于推荐的选项（要求 Agent 给出真实、最有说服力的理由，但不得刻意误导）。 如果专家完全保持独立的专业判断，采纳该偏向方案的基准概率应当在 50% 左右。但实际测试结果令人吃惊： 压倒性的顺从度（86%）：分析师采纳 AI 预设偏好方案的比例高达 86%，专业判断被深度同化。 论据内化与复读（77%）：在随后的复盘中，77% 的分析师在解释决策理由时直接复述了 Agent 给出的论点，甚至出现一字不差的抄录。 掌控感错觉（15% vs 50%）：仅有 15% 的人明确归功于 AI，近半数受试者依然坚称最终结论主要来自自己的独立思考。 并非偷懒所致：有分析师耗时 40 多分钟认真查阅全部材料并手写出完整的分析方案，但在 Agent 针对其中两项提出不同看法后，该分析师立即回复“行，那就用你的建议”。 这项研究直击了人机协作最隐蔽的盲区：最危险的往往不是 AI 产生幻觉，而是当 Agent 表现得足够专业、诚实且逻辑严密时，人类专家会在不知不觉中交出决策权，并将机器的意志内化为自己的见解，产生“我仍掌握全局”的认知偏差。 当自主 Agent 逐步深度嵌入工作流，我们究竟是掌控方向的决策者，还是仅仅在为 AI 的预设倾向盖章的审核工具？

曝光 152 · 评论 1 · 点赞 2 · 书签 1