看到有人吹150GB内存就能本地跑MiniMax我真的两眼一黑。 Unsloth把428B的MiniMax-M3.1-Flash压成了2-bit GGUF，… · @Yudian_Zero · TwKit

@Yudian_Zero

看到有人吹150GB内存就能本地跑MiniMax我真的两眼一黑。 Unsloth把428B的MiniMax-M3.1-Flash压成了2-bit GGUF，体积砍掉45%，自称还能保留91.5%精度——注意这是他们自报的，到现在都没见独立第三方跑分。 原版官方权重252GB、每token激活23B、1M上下文，就算压缩完要150GB，那也是大内存工作站或服务器的门槛，跟普通家用机半毛钱关系都没有。

曝光 10 · 评论 1 · 点赞 1 · 书签 0