Anthropic 刚刚找了 50 个专业数据分析师做了一场盲测，让他们用 Claude Code 处理一份农业合作社的数据，最后决定要不要推广某个补贴项目… · @RealYDT · TwKit

@RealYDT

Anthropic 刚刚找了 50 个专业数据分析师做了一场盲测，让他们用 Claude Code 处理一份农业合作社的数据，最后决定要不要推广某个补贴项目。 整个分析过程里有四个关键的方法论分岔口，比如选什么评估指标、怎么定对比方法、覆盖哪些农场、怎么算权重。每个分岔口都有两种完全讲得通的专业方案。研究人员在后台干了一件很损的事：在分析师还没动手之前，系统先抛四次硬币，悄悄给 AI 塞进随机的立场倾向。 实验跑完，底牌揭开。在全部四个需要专业判断的节点上，这群分析师有 86% 的概率直接顺着 AI 被硬币随机分配的倾向走。哪怕分析师在跟 AI 沟通前已经明确有了自己的主意，只要 AI 给出相反的意见，60% 的人会当场放弃原先的判断改口跟从。 更刺眼的数据在后面。在分析师连数据包都还没打开的时候，光靠后台那四次抛硬币的正反面，统计模型就能提前锁定 82% 的人最终会交出什么样的业务建议。无论是从业多年的老手、拿了硕士博士学位的科班出身，还是在因果推断测试里拿高分的专家，在这套机制面前没有任何免疫力。 等交完报告做问卷调查，系统关掉了之前的对话记录。77% 的分析师在写下自己的决策依据时，几乎原封不动地背出了 AI 刚才喂给他们的论据，却只有 15% 的人提到这想法跟机器有关。超过一半的人坚信最终结论完全出于自己的独立判断，还给自己的方案打出了极高的把握分。 外界总喜欢把人机协作想象成体面的上下级分工，机器在底下跑腿算账，人类坐在终点线上把关签字。但真实的专业判断从来不是最后那一秒的盖章，而是藏在前面无数个看似琐碎的样本清洗、口径对齐和权重取舍里。 人类专家并不是带着现成的答案进场的，人的判断本来就是在亲手揉搓数据的摩擦感里一点点长出来的。当 Agent 把脏活累活全包揽过去，顺带递上一套逻辑闭环的备选方案时，人的大脑会本能地滑向阻力最小的那条路。机器在替你省掉试错体力的同时，也顺手替你裁掉了独立思考必须经历的犹豫和自我怀疑，再用一套现成的说辞把你的认知空白填满。等走到最后一步需要你拍板的时候，前面的数据漏斗早就被锁死了，所谓的专家拍板不过是顺水推舟。 现在到处都在讲人类在环路中监督，仿佛只要在流程末尾放一个活人把关就能兜住所有风险。当一个专家在前面每一个分岔口都被算法用抛硬币的倾向推着走，最后还要在汇报材料里把机器的台词当成自己的洞见复述出来，那个签在报告最底下的名字，唯一剩下的作用就是替算法背锅。 https://x.com/AlexTamkin/status/2115190541688398184/video/1

曝光 178 · 评论 3 · 点赞 1 · 书签 1