你的 agent 不是不够努力,是不会选路 微软和港城大搞了个新 benchmark 叫 Taste-Bench 专门测 agent 在长任务里"选方向"的… · @ai_fengshou · TwKit
@ai_fengshou
你的 agent 不是不够努力,是不会选路 微软和港城大搞了个新 benchmark 叫 Taste-Bench 专门测 agent 在长任务里"选方向"的能力 502 道二选一,全从真实跑挂的 agent 轨迹里挖出来的 14 个顶级模型,最强的 GPT-5.6 Sol 也只有 59.7% 答对 (每题问两遍顺序打乱,瞎蒙 25%) 更扎心的是:想得更久一点用没有 线索出现得晚的题,所有模型掉到 21%,跟瞎蒙没区别 好消息是能练:蒸馏后判断准确率 30%→47.9%,SWE-bench Pro 成功率 14.6%→33.7% 直接翻倍 以后别只问 agent 跑没跑完,得问它走的路对不对 https://the-decoder.com/ai-agents-have-bad-taste-in-long-term-decisions-and-a-new-benchmark-proves-it/
曝光 129 · 评论 3 · 点赞 2 · 书签 1
查看原帖