💥 12G 显卡跑 Qwen3.8-Flash-Next:每层砍 64 专家,解码反而 56 tok/s。 L448 自炼版比 Unsloth:解码 +30… · @QwenAIFans · TwKit
@QwenAIFans
💥 12G 显卡跑 Qwen3.8-Flash-Next:每层砍 64 专家,解码反而 56 tok/s。 L448 自炼版比 Unsloth:解码 +30%,8K 预填 +33%,还小 5GB。空回复靠校准时加入自家 chat 轮次修好。 温馨提示:5090 模拟 12G,作者数字。 来源:Hugging Face zephel01👇 https://huggingface.co/zephel01/Qwen3.8-Flash-Next-12G32G-GGUF
曝光 148 · 评论 0 · 点赞 1 · 书签 0
查看原帖