TwKit
正在载入
TwKit

这组结果最有价值的地方,可能不是“递归训练一定有效”,而是它提醒我们:Agent 能力并不是脱离运行环境的单一分数。Terminal-Bench 2.1 上… · @fireandstart · TwKit

@fireandstart

这组结果最有价值的地方,可能不是“递归训练一定有效”,而是它提醒我们:Agent 能力并不是脱离运行环境的单一分数。Terminal-Bench 2.1 上从 77.53% 升到 78.95%,同时在 4.0 上从 16.67% 跌到 11.11%,说明旧环境里的小幅进步完全可能掩盖新环境里的退化。只盯一个熟悉的榜单,很容易把适配旧题型误读成能力普遍提升。 RSR 把成功轨迹整理成 runbook,再经过泄漏审查并在目标 harness 重放;RPR 则接续 critic 做 PPO。这条路线把数据整理、运行框架和模型更新都放进闭环里,工程上很值得继续研究。但目前缺少算力配平、critic 继承的独立消融,也只有单模型三次推理均值,递归本身的贡献还不能和其他因素拆开。代码入口暂时不可用、没有公开模型,也意味着外部团队还难以复现和定位差异。 因此我会把这篇工作看成一个有启发性的训练流程与评测警报,而不是可直接引用的能力排名。尤其 DeepSeek 的 42.3% 是在 Claude Code 框架下测得,与论文采用的框架不同,横向比较前必须先统一 harness、工具权限、上下文预算、提示策略和计分规则。更稳妥的做法是同时报告多个版本基准、多个运行框架、重复运行分布以及失败类型;如果新基准持续变差,就该先查任务分布和框架适配,而不是继续追逐旧榜单上的小数点。

曝光 104 · 评论 1 · 点赞 3 · 书签 1

查看原帖