TwKit
正在载入
TwKit

把逗号和句号当作推理的压缩锚点,乍听像在给标点加戏,细想却很合理:它们本来就在标记语义结构。 https://arxiv.org/abs/2610.2292… · @vintcessun · TwKit

@vintcessun

把逗号和句号当作推理的压缩锚点,乍听像在给标点加戏,细想却很合理:它们本来就在标记语义结构。 https://arxiv.org/abs/2610.22924 Sep-Latent 训练时压低非分隔符的注意力,让推理信息聚到分隔符对应的潜在状态,再用双路径蒸馏对齐显式与隐式推理;推理时还会按题目难度决定何时停。GSM8k-Aug 上平均只用 5.4 个 token,准确率 56.8%。省 token 有吸引力,但现有结果还不足以看清它与显式 CoT 的性能差距和跨任务表现。

曝光 9 · 评论 0 · 点赞 0 · 书签 0

查看原帖