TwKit
正在载入
TwKit

MIT 系的 Liquid AI 发布 LFM3:三混合架构、6 个模型、全部 1.7~2B,单卡可微调,跑在 14 类处理器上(含 NPU)。 视觉版 1… · @leo114119 · TwKit

@leo114119

MIT 系的 Liquid AI 发布 LFM3:三混合架构、6 个模型、全部 1.7~2B,单卡可微调,跑在 14 类处理器上(含 NPU)。 视觉版 1.9B 打 Gemma 4 12B —— 六倍参数差。 它家的「混合」和 Qwen4/DeepSeek 完全不一样:那两家混的是注意力层(省显存),Liquid 混的是层类型 —— 绝大多数层是卷积/循环「液态层」(源头是模仿线虫神经系统的 MIT 研究),只留少量注意力做记忆。每 token 计算量打下来,才能塞进手机 NPU。** 所以叫新一代液体基础模型,有新的架构出来,总是好事,期待实测。。。 感觉 27 年可能是本地小参数模型发展最快的一年

曝光 530 · 评论 2 · 点赞 7 · 书签 1

查看原帖