Meta 正在把具备较强自主执行能力的 AI Agent，从云端大模型压缩到可以在个人电脑上持续运行的 Muse Glimmer 30B。 部分指标超过 Q… · @dongxi_nlp · TwKit

@dongxi_nlp

Meta 正在把具备较强自主执行能力的 AI Agent，从云端大模型压缩到可以在个人电脑上持续运行的 Muse Glimmer 30B。 部分指标超过 Qwen3.6-27B 和 Gemma4-31B。 通过 4-bit 量化，将模型压缩到约 17GB，目标是在 24GB 显存设备上运行。 采用 DFlash 推测解码，在 RTX 5090 上实现约 233 tokens/s，相比普通解码提速约 3.1 倍。 Meta 最近牛逼克拉斯！

曝光 1158 · 评论 3 · 点赞 7 · 书签 6