这篇文章让我今晚读了又读，从6亿年生物进化，看AI的下一次范式革命。 Ilya Sutskever 曾谈到，自己的 Research Taste 来自两个原… · @Anitahityou · TwKit

@Anitahityou

这篇文章让我今晚读了又读，从6亿年生物进化，看AI的下一次范式革命。 Ilya Sutskever 曾谈到，自己的 Research Taste 来自两个原则：从生物机制中寻找灵感，以及追求简单、优雅的底层规律。 如果把进化看作一场持续数亿年的实验，它反复探索的方向可以概括为两个： Intelligence：让个体更高效地学习和适应世界。 Alignment：让独立个体形成更大规模、更稳定的合作系统。 这恰好也是今天 Frontier Labs 面临的两大挑战。 Max Bennett 在《智能简史》中，将6亿年的大脑演化概括为五次突破： Steering（转向）：建立价值判断，知道什么值得接近、什么需要远离。 Reinforcing（强化）：从自己真实采取的行动及结果中学习。 Simulating（模拟）：在脑内预演未来，不必每次都亲自试错。 Mentalizing（心智建模）：理解他人的行为与意图，从别人的经验中学习。 Language（语言）：通过语言继承他人的知识，甚至学习别人想象过的世界。 这五次突破有一条共同主线：智能越来越不需要亲身经历，就能获得经验 有趣的是，AI 走了几乎相反的路线。 人类先通过语言积累文明，再通过预训练把这些知识交给 LLM。随后，模型才逐渐获得推理、强化学习、工具调用和与真实环境交互的能力。生物从一手经验走向二手经验，AI 则从二手知识走向一手经验。 这也是 David Silver 和 Richard Sutton 所说的 The Era of Experience。未来模型能力的增长，可能越来越依赖自主行动、试错和反馈，而不只是扩大预训练数据规模。 Pre-training 让 AI 继承人类文明，Experience 才可能让 AI 开始创造自己的知识。 Continual Learning 的关键挑战，不只是如何持续训练，而是如何让 AI 高效判断什么值得学习。 AGI 的终极挑战，不只是创造更聪明的个体，而是让越来越强大的智能体形成安全、稳定、非零和的合作系统。

曝光 400 · 评论 4 · 点赞 7 · 书签 1