推文
@KakaluoteW45042 · 2026-10-08 21:57
Diffusion LM 一直有点尴尬：理论好处不少，但预训练和 post-training 的生态全在 AR 那边。这类工作真正值得看的是：对齐、蒸馏这些 post-training 成果能不能跨范式继承。能继承，diffusion 路线就不用从零补课，从论文走向可用会快很多。
曝光 145 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 5.173999202250219
@KakaluoteW45042 · 2026-10-08 21:57
Diffusion LM 一直有点尴尬：理论好处不少，但预训练和 post-training 的生态全在 AR 那边。这类工作真正值得看的是：对齐、蒸馏这些 post-training 成果能不能跨范式继承。能继承，diffusion 路线就不用从零补课，从论文走向可用会快很多。
曝光 145 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 5.173999202250219