推文

@mspd4100 · 2026-10-15 09:01

35B 大模型塞进手机：只要 3GB 内存，还不掉能力 面壁智能 10 月 13 日发布 MiniCPM-V4.7，35B-A3B 是 V 系列首款 MoE： 总参数 350 亿，单次推理只激活 30 亿，3GB 内存就能跑。官方称是首个在手机端流畅运行且能力无损的开源大模型。 iPhone 17 Pro Max 实测超 13 tokens/s，iPad Pro 超 15 tokens/s。芯片覆盖瑞芯微、英伟达、英特尔、苹果，系统支持 iOS、安卓、鸿蒙，端侧适配代码已开源。 三个优化：LES 前瞻专家调度预加载专家、细粒度逐层量化、DSpark 推测性采样。 MiniCPM 系列全球下载已破 6000 万次。 现在就看第三方实测：复杂任务下，这 13 tokens/s 稳不稳。 #MiniCPM #端侧大模型

曝光 305 · 评论 6 · 点赞 3 · 书签 0 · 曝光/时 245.02734435439768