腾讯与 NUS 等团队公布了 Terminal-RSI,一套让终端 Agent 递归自我改进的训练流程。他们用 Qwen3.8-27B 调优,在终端基准上跑… · @jiangkoumo_ · TwKit
@jiangkoumo_
腾讯与 NUS 等团队公布了 Terminal-RSI,一套让终端 Agent 递归自我改进的训练流程。他们用 Qwen3.8-27B 调优,在终端基准上跑出一组反差很大的数据,旧版 Terminal-Bench 2.1 拿到 86.52%(Base 只有 51.70%),新版 Terminal-Bench 4.0 却只有 19.84%(三次运行均值 Mean@3) 训练拆成两个交替阶段。先做 RSR,把不同 Agent 运行框架(harness)里跑通的任务轨迹改写成操作步骤(runbook),过完泄漏审查后在目标框架重放验证,再用筛选出的成功轨迹做监督微调,只更新 actor 的权重,不改运行时源码。接着是 RPR,继承估计后续回报的价值网络(critic),联合 PPO 迭代模型权重。算上基座 Base,全流程共保留 5 个阶段 论文第 3.3 节记录了一组反向变化。在第一轮 RPR 强化学习中,从 step 20 继续训到 step 35,Terminal-Bench 2.1 从 77.53% 涨到 78.95%,Terminal-Bench 4.0 却从 16.67% 跌到了 11.11%。如果单拿旧测试集分数挑模型,容易选到在新环境倒退的检查点 评测环境关闭了显式思考,按结构化 JSON 解析动作,搭配 32k 上下文主动摘要。论文未做算力配平与 critic 继承的独立消融,评测取的也是单模型三次推理均值而非独立训练种子,目前还不能把增益全部归因于递归本身 团队公开了训练思路,但论文代码入口当前 404,所链接组织暂无公开模型 对于 Agent 的开发者,看评测必须核对运行框架。DeepSeek 官方自报 DeepSeek-V4.1-Flash-1017 在 Terminal-Bench 4.0 拿到 42.3%,但测的时候跑在 Claude Code 框架下,使用的运行框架与这篇论文不同,不能直接横向比较两组成绩
曝光 327 · 评论 3 · 点赞 4 · 书签 0
查看原帖