推文

@fireandstart · 2026-10-11 16:01

如果这条结果成立，最值得继续追问的不是“模型会不会自我改进”，而是改进链条里每一环怎样被独立验证。Agent 产出的轨迹质量如何定义？训练后的提升是否来自更好的任务策略，还是对评测分布的适配？分布外基准上的增益很有意思，但最好同时看到任务构成、基线、方差和失败案例，才能判断 17.9 个百分点具体意味着什么。 递归循环也有一个容易被忽略的风险：模型生成的数据再反过来训练模型，可能不断放大早期偏差。若参考应用充当 Oracle，评分标准是否足够独立，能否避免只学会复刻界面或通过固定测试？更有说服力的证据，应该包括未参与生成与训练的新任务、长期迭代中的能力退化监控，以及人工介入和算力成本。 所以我会把这类工作看作一个很重要的研究方向，而不是仅凭“闭环跑通”就推断通用能力已经自我加速。真正的分水岭，可能是系统能否持续提出新问题、可靠识别自己的错误，并在换环境后仍然保持收益。期待论文把这些边界和实验细节讲清楚。

曝光 31 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 6.985797404276281