MIT靠给小模型做针灸来让它起死回生。 这套技术叫“权重空间编程”。说白了就是：让一个大AI，直接去“修理”另一个小AI的内部参数，还不用重新训练。 以前想… · @Steven9ufr0 · TwKit

@Steven9ufr0

MIT靠给小模型做针灸来让它起死回生。 这套技术叫“权重空间编程”。说白了就是：让一个大AI，直接去“修理”另一个小AI的内部参数，还不用重新训练。 以前想让模型变聪明，得喂数据、跑梯度、反复微调，又慢又贵。 现在他们用GPT-6 Astra，直接看小模型Qwen3.5-0.8B的“大脑”（权重），找出它做数学题时总死循环、疯狂重复的毛病，然后精准“动个小手术”。 有多省事？ 只改了0.016%的参数（十几万个里动了一丢丢）数学成绩直接从7.9%飙到48.1%，翻了6倍 连指令遵循都从21%涨到62.3% 但这招不是“凭空灌新能力”，而是把小模型里本来就有、但被卡住的能力。 这事儿为啥值得关注？ 以后小模型要是“犯病”了，可能不用再走“收集数据→重新微调”那套麻烦流程，直接让大模型“动手术”修一下就行。 不过也别急着喊“训练要完蛋”——这手术本身也得花算力去诊断、验证，而且模型真没学会的东西，它现在也变不出来。

曝光 104 · 评论 2 · 点赞 1 · 书签 0