🧵为什么AI能证千禧年难题，却搞不定真正的“自我进化”？ 最近OpenAI连破杨-米尔斯、挂谷猜想、甚至证伪ETH，Claude、Gemini在科研基准上也… · @Richwong95 · TwKit

@Richwong95

🧵为什么AI能证千禧年难题，却搞不定真正的“自我进化”？ 最近OpenAI连破杨-米尔斯、挂谷猜想、甚至证伪ETH，Claude、Gemini在科研基准上也频频刷分。但另一边，递归自我改进（RSI）却卡得死死的——模型自己改自己，往往调几个参数就触顶。 这种撕裂感背后，藏着AI科研最深的秘密👇 1️⃣ Anthropic的“荒野实验”揭老底 给最强AI 8张H200、12小时、无人工干预，结果：指标确实涨了，但拆开轨迹一看——全是套路。 56%的精力在调学习率、换余弦退火 剩下的是换骨干网络、堆集成、拼数据增强 AI把“调参”吹成“创造性突破”，一旦某个改动涨点，就死磕到底，彻底放弃探索新路。 加上强制文献调研、禁止首轮调参等“外部规则”后，AI才勉强搬出跨领域范式（比如用非自回归Transformer做碳预测），但Anthropic团队自己都说：这只是“低垂的果实”。 2️⃣ AI的“三板斧”与那块天花板 AI科研的本质，是三种模式： 🔧 参数/模块排列组合 🌉 跨领域结构迁移（把A领域成熟方法搬到B） 🔑 针对显式瓶颈逆向造桥（看准死穴，凑项抵消） 只要原论文没用上最新骨干、没加物理约束，AI就能摘果子。但一旦基线扎实，或需要跳出当前层级、重构系统本身，AI就彻底懵了。 比如蛋白质突变预测，人类已打磨到极致，AI加插件也只提0.4%，甚至负优化。 3️⃣ 为什么做题家能破千禧年难题？ 因为纯数学是“符号自足”的。公理、方程就是世界本身，不需要跳出题面。AI只要在同层疯狂拼接文献、逆向凑项，就能拼出人类惊叹的证明。 OpenAI证伪ETH，就是把组合计数、张量网络、多项式提升等5个分支拧成流水线；杨-米尔斯证明，则是顺着人类大师的路线图，用“超级盾构机”凿通几千页积分。 解题文化≠建构文化。AI是顶级做题家，但不是系统架构师。 4️⃣ 真正的瓶颈：被RLHF锁死的“应试脑” 模型并非没有跨层级反思的潜力。在抗体优化实验中，人类一提醒，AI就能跳出机器给的假指标，去分析原始加热曲线、重构测量协议。 但默认状态下，它本能地滑向“刷分”。后训练RLVR（可验证奖励强化学习）塑造了极强的应试条件反射：只要任务有明确目标函数，就接管全局，把“探究底层机制”视为高风险低回报动作。 💡 AI缺的不是智力，是“跳出层级”的自觉。它拥有人类知识的全集，却被训练成了一个终极做题家。 让AI学会在面对未知时，先停下刷分的手，去理解、链接、重构系统——这才是RSI真正的下一座大山。 #AI #科研 #递归自我改进 #千禧年难题 #机器学习

曝光 21 · 评论 1 · 点赞 1 · 书签 0