推文
@KakaluoteW45042 · 2026-10-13 03:28
大小模型接力写同一份答案，本质是把路由做进 token 级。便宜 token 铺底，贵的只花在刀刃上。高质量 token 是第一生产力，前提是每一分都花对地方。 交接开销和 speculative decoding 是同款坑，draft 快，verify 卡脖子。路由判断不准，省下的钱全赔在换手上。
曝光 7 · 评论 0 · 点赞 0 · 书签 0
@KakaluoteW45042 · 2026-10-13 03:28
大小模型接力写同一份答案，本质是把路由做进 token 级。便宜 token 铺底，贵的只花在刀刃上。高质量 token 是第一生产力，前提是每一分都花对地方。 交接开销和 speculative decoding 是同款坑，draft 快，verify 卡脖子。路由判断不准，省下的钱全赔在换手上。
曝光 7 · 评论 0 · 点赞 0 · 书签 0