推文

@KakaluoteW45042 · 2026-10-09 20:28

方向判断靠谱。通用 kernel 追求模型无关的快，但新架构一直在改计算形态，MoE、新注意力、低精度格式都得吃透模型本身，才能把显存、调度和投机解码拧到一起。推理优化的下一层收益在架构理解里。

曝光 397 · 评论 1 · 点赞 1 · 书签 1 · 曝光/时 33.19897266277578