很多 Agent 最浪费 token 的地方,是同一个决定反复想。 比如模型已经决定「代码写完后先编译,编译成功再跑测试」。 真正执行到编译结束时,Harn… · @Xudong07452910 · TwKit
@Xudong07452910
很多 Agent 最浪费 token 的地方,是同一个决定反复想。 比如模型已经决定「代码写完后先编译,编译成功再跑测试」。 真正执行到编译结束时,Harness 往往又会重新调用一次模型,让它再决定下一步该做什么。 清华和微软亚研院这篇 HarnessMM,专门解决这种重复推理。 它会把已经确定的动作保存成 Executable Decision Graph。 后续工具返回结果后,只要满足预先设定的条件,Harness 就直接执行已经确定的下一步;遇到新的语义判断或证据不足,再把控制权交还给模型。 而且这套 Harness 还会通过训练反馈持续迭代配置,再由验证集决定保留哪一版,形成一个轻量的 RSI 闭环。 在 HumanEval 上,Codex 成功率保持 90.82%,每个任务的 token 从 66.72k 降到 47.02k,节省约 29.5%。 DeepSeek Harness 的成功率从 71.43% 提升到 85.71%,token 从 96.28k 降到 11.62k,减少约 87.9%。 所以模型已经做出的决定,如果能安全地跨工具调用保留下来,很多重复 reasoning 本身就是可以被编译掉的成本。 未来 Agent 的效率提升,可能更依赖这种对「何时调用模型」的精细控制。 📎 arxiv: https://arxiv.org/abs/2610.32813
曝光 672 · 评论 4 · 点赞 8 · 书签 5
查看原帖