Unsloth 把 MiniMax-M3.1-Flash 压进了 GGUF。 2-bit 版体积小 45%，精度留 91.5%，150GB 内存就能本地跑，… · @xiaoanlab · TwKit

@xiaoanlab

Unsloth 把 MiniMax-M3.1-Flash 压进了 GGUF。 2-bit 版体积小 45%，精度留 91.5%，150GB 内存就能本地跑，不用堆服务器。 本地大模型离普通工作站又近了一步。 跑本地大模型的：先试 2-bit 版，还是等更高精度版？ #MiniMax #本地部署

曝光 138 · 评论 2 · 点赞 6 · 书签 0