Anthropic 发了个研究，看完我有点心虚。 50 个做因果分析的专业分析师，用 Claude Code 做一个数据分析任务。 研究者偷偷让 Agent… · @NpieAI · TwKit

@NpieAI

Anthropic 发了个研究，看完我有点心虚。 50 个做因果分析的专业分析师，用 Claude Code 做一个数据分析任务。 研究者偷偷让 Agent 在 4 个选择上各"偏向"一边，偏哪边是抛硬币定的。 结果： 86% 的时候，分析师选了 Agent 偏向的那个。 分析师自己已经有想法时，Agent 一反对，60% 的人改主意；Agent 赞同时，只有 6% 改。 事后解释理由，77% 的人用了 Agent 的论点，只有 15% 说这是 Agent 提的。 看完我回想了一下，平时搭 Dify 工作流，节点该怎么拆，我好像也常常是先问 Agent，它说一个方案我就开干了。 🫠 研究者自己也说了，Agent 的偏好是故意调强的，现实里影响可能没这么大。 但我打算以后让 Agent 给建议之前，先把自己的选择写下来，再看它说什么。 你呢？ 先自己想 / 直接问 AI / 看心情 这是来源链接：http://anthropic.com 完整论文 PDF：http://www-cdn.anthropic.com

曝光 126 · 评论 4 · 点赞 2 · 书签 0