TwKit
正在载入
TwKit

GPT-6 Astra 一个梯度都没动,直接把 Qwen3.5-0.8B 的权重改好了。 只改了 0.016% 的参数,就修掉了 0.8B 的推理死循环:数… · @aizhibeibei · TwKit

@aizhibeibei

GPT-6 Astra 一个梯度都没动,直接把 Qwen3.5-0.8B 的权重改好了。 只改了 0.016% 的参数,就修掉了 0.8B 的推理死循环:数学最多提升 6 倍,指令遵循提升 3 倍。 他们把这种方法叫 Weight-Space Programming —— 不重新训练,直接在大模型的权重空间里动手。 如果以后调模型都靠这一招,开源小模型的性价比要被重新定义。 https://rikiyat.github.io/blog/weight-space-programming/

曝光 84 · 评论 2 · 点赞 1 · 书签 1

查看原帖