只改了 0.016% 的权重,Qwen 的数学能力从 7.9% 干到 48.1%。 GPT-6 Astra 干的事很科幻:直接读另一个模型的权重,定位到导致… · @TonyZhang12025 · TwKit
@TonyZhang12025
只改了 0.016% 的权重,Qwen 的数学能力从 7.9% 干到 48.1%。 GPT-6 Astra 干的事很科幻:直接读另一个模型的权重,定位到导致推理死循环的那一小撮参数,手术刀式修复。 以前是人给模型调参,现在是模型给模型看病。ML 调优这门手艺,怕是也要被 AI 接管了。
曝光 46 · 评论 2 · 点赞 2 · 书签 0
查看原帖