推文

@wei_wang · 2026-10-13 03:11

单卡 RTX PRO 6000 上的 Qwen3.8 Flash-Next，今天升级到 Pennyroyal 3.0 + 自研 indexer split-K： · 480K 冷启动首字 79s → 62s · 490K 检索首字 71s → 52s · 单路 / 2 路解码 +13～18% · 冷 prefill +12～13% · 精度不变 150 万 NVFP4 KV 池，16 路并发，350W。 补丁已更新：http://github.com/Lesilva/qwen38-flashnext-nvfp4-kv

曝光 119 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 33.533165482391304