⚡️ 一张 RTX PRO 6000，Qwen3.8-27B 代码 230.6 tok/s 推理 186.6，默认才 72.9。自带 MTP：一次草稿 6 … · @QwenAIFans · TwKit

@QwenAIFans

⚡️ 一张 RTX PRO 6000，Qwen3.8-27B 代码 230.6 tok/s 推理 186.6，默认才 72.9。自带 MTP：一次草稿 6 个 token，整模一步核完，代码大约一步吐 5 个。 温馨提示：batch 1 数字，换你卡上的量化再对一下。 来源：@Dataphil3👇

曝光 371 · 评论 3 · 点赞 4 · 书签 1