8GB 显存 + 32GB 内存，我把 Qwen 3.8 Flash Next 跑到了 900 t/s 预填充 配置：RTX 5060 Laptop、32G… · @BlockInsight214 · TwKit

@BlockInsight214

8GB 显存 + 32GB 内存，我把 Qwen 3.8 Flash Next 跑到了 900 t/s 预填充 配置：RTX 5060 Laptop、32GB DDR5、1TB SSD、Linux，工具是 Strata 成绩：262K 上下文预填充 800–970 t/s、生成 30–40 t/s；131K 上下文预填充 930–1040 t/s 原理：常用专家放显存、可能用到的放内存、其余放 SSD，不频繁换用例时效果最好 关键参数就这几个： --mmap-experts --kv-resident 20480 --vram-reserve-mib 900 --pcie-frac 0.35 STRATA_RESIDENT_HEADROOM_GIB=4 别踩的坑：不用 MTP，它占显存还拖慢预填充；视觉放 CPU，每张图约 1–2 秒；并行调用不用 --parallel，改用 --conversation-cache 顺序恢复会话

曝光 200 · 评论 0 · 点赞 1 · 书签 0