不用重新训练，AI 直接动手改了另一个 AI 的权重 MIT CSAIL 11 月 2 日放出的研究博客里，GPT-6 Astra 被要求直接读改 Qwen… · @404latitude · TwKit

@404latitude

不用重新训练，AI 直接动手改了另一个 AI 的权重 MIT CSAIL 11 月 2 日放出的研究博客里，GPT-6 Astra 被要求直接读改 Qwen3.5-0.8B 的权重，没跑训练循环，只动了 0.016% 的权重、131072 个参数 它修的不是新本事，是老毛病：这个小模型容易卡在重复推理里，Astra 找到第 15 层和第 19 层里那条重复方向并把它减掉 数字很夸张：MATH-500 从 7.9% 涨到 48.1%，GSM8K 从 13.8% 涨到 67.1%，指令跟随 IFEval 从 21.0% 涨到 62.3% 但作者自己划了边界：这只是拆掉挡路的缺陷，没给模型装上它没有的能力；在很少死循环的 Gemma 3 270M 上，改动几乎没效果 所以短期价值更像给小模型打补丁、做诊断，而不是 AI 自己进化 你手头的小模型要是总卡在重复输出上，你会先想改权重、还是先换提示词？

曝光 31 · 评论 0 · 点赞 0 · 书签 0