今天读了 Cage 和 Penny 的这篇长文，推荐给您。RSI 和持续学习是两个问题 主线可以压成一条链： 实验自动化->瓶颈转到验证->持续学习（经验变… · @Zen_with_AI · TwKit

@Zen_with_AI

今天读了 Cage 和 Penny 的这篇长文，推荐给您。RSI 和持续学习是两个问题 主线可以压成一条链： 实验自动化->瓶颈转到验证->持续学习（经验变成能力）->两个飞轮互相加速 先看 RSI（递归自我改进）。AI 能参与模型训练的每一个环节，随着算力增加，产出同等进步所需的研究员数量不再同比例增长，而是开始下降。也就是说，算力和智能在涨，人不用跟着涨。 证据是：OpenAI 在 2026 年 9 月公布的内部数据显示，每位活跃实验人员 8 月的实验量，约为 2025 年均值的 1.6 倍。Karpathy 的 autoresearch 是闭环的具体做法：Agent 改训练代码，在单 GPU 上每次跑五分钟，用固定评估决定保留还是撤销，再进入下一轮。 接下来最缺的东西，分为四项： 规模迁移。小模型上有效的改动，到前沿训练里还灵不灵？Anthropic 的自动 alignment 研究里，最优方法搬到 Claude Sonnet 4 的生产训练时，没有取得统计显著的改善。 好的 verifiable 环境。生成任务越来越容易，判断做得对不对反而成了更关键的约束。 从真实轨迹构建环境。真实工作是连续的任务序列，文件、环境、目标都在变。 研究的 taste 与资源分配。哪些问题值得做，哪个实验该加算力，什么时候放弃，没有现成的短期分数。 === 再看持续学习。定义是：系统在交互经验中，把新的知识和 entropy，转化为能泛化到各种任务的能力提升。有个判断标准很清楚：AI 得到一个新经历，能立刻转成 knowledge 才算。如果要先攒起来，过段时间统一训练，就还是旧范式。 最大难点是 sample efficiency。软件测试可以并行重跑、reward 很密，这叫 grindability。物理世界做不到，所以要从每次真实经验里学到更多。 技术路线有四条： TTT / fast weights。让模型有可在线更新的权重，学习和推理同时发生，记忆相对上下文长度保持 O(1) 的计算复杂度。目前还没有 scale up，下一步的关键可能是数据。 Adapters / Multi-LoRA。冻结底座，经验放进各自的 adapter。可能的层级是：fast weights 保存短期状态，slower adapter 固化稳定技能，base weights 只吸收跨用户反复验证过的通用能力。解决的是个性化和成本，不带来学习规则。 Meta-learning。让模型学会"怎么学"：什么值得留下、哪些层该更新。Nested Learning / Hope 把模型看成多个更新频率不同的优化循环。 自蒸馏（OPSD）。把一次完整 session 里的核心信息，蒸馏回模型。 至于需不需要新架构，给了三个由弱到强的假设：现有范式加更长上下文就够；Transformer 还在，但需要 meta-learned 的更新、蒸馏和记忆门控；必须从底层重新设计架构。 我的看法： 文章里有不少体感和未证实的信息。作者说 OpenAI 和 Anthropic 内部"大概率已经部分实现了 RSI"，SSI 在 meta-learning 上的突破也来自 leak 消息，都没法核实。 实验量涨到 1.6 倍，说明每位研究员管得了更多实验，但作者自己也承认，这和"每个 GPU 小时产出更多有效成果"是两回事，后者文章里没有给出证据。 简单总结一下就是：RSI 让研究的闭环越转越快，持续学习要让真实使用变成能力的来源。两者都卡在能不能低成本验证上，谁能把经验转成能力的效率持续做高，谁的斜率就更陡。 原文： https://mp.weixin.qq.com/s/IIm-Yznjt7C0zjhU5rPrEg

曝光 1392 · 评论 1 · 点赞 13 · 书签 16