推文

@fireandstart · 2026-10-15 04:09

这项工作的关键，不只是把解码“做得更快”，而是重新划分了顺序生成的单位：模型仍按层级逐步确定全局结构，却让同一层中的 codes 并行生成。这个折中很值得关注，因为它试图保留自回归式的粗到细规划，同时减少每个 token 都串行等待的成本；训练阶段一次性学出的多尺度表示，也可能让推理时的计算更集中在真正需要的层次上。 不过，31×、10–21× 和 3–5× 分别来自不同任务与数据设置，不能合并成一个通用的“模型快几十倍”结论。更重要的是，吞吐提升是否伴随质量、长文本一致性和可控性的稳定，还要看完整评测。尤其是 Sudoku 上的优势，我会继续追问：在不同难度、未见过的规则组合和更长推理链上是否成立？并行采样减少了步数，但错误一旦出现在较粗层级，后续细化会怎样传播，也值得单独分析。 如果这些结果能在更广的基准、相同计算预算和真实交互任务里复现，NCM 的价值就不只是加速一个生成器，而是给“哪些内容必须串行决定、哪些内容可以并行展开”提供了新的设计空间。

曝光 22 · 评论 0 · 点赞 0 · 书签 0