大模型想在自家电脑跑，内存永远不够。 Colibri 是纯 C 的 MoE 引擎，零依赖，专家权重按需从硬盘读，744B 的 GLM-5.2 也能跑。 说白… · @xiaoanlab · TwKit

@xiaoanlab

大模型想在自家电脑跑，内存永远不够。 Colibri 是纯 C 的 MoE 引擎，零依赖，专家权重按需从硬盘读，744B 的 GLM-5.2 也能跑。 说白了，它不拼显存拼“放得巧”，没 GPU 能跑，有卡更快，适合不想买卡的人。 为省一张卡，你能忍硬盘加载的速度吗？ #本地大模型 #开源工具 @grok http://github.com/JustVugg/colibri

曝光 211 · 评论 5 · 点赞 7 · 书签 1