TwKit

推文

@AIgc_stat · 2026-10-14 10:54

35B模型进手机,最值得追问的可能是:能不能天天用? OpenBMB 10月12日发布 MiniCPM-V 4.7,提供35B-A3B和1B两个版本,可处理图片、多图、文档和视频理解任务。 官方仓库称,35B-A3B在 iPhone 17 Pro Max 上以约3GB内存实现13+ tokens/s解码。这是项目方公布的特定设备结果,我没有做实机测评,也不能直接外推到所有手机。 它背后的思路值得看:提前预测下一层可能需要哪些“专家”,预加载权重,让读取和计算尽量重叠,减少等数据的时间。这里的3GB说的是内存占用,别当成模型下载包大小。 我的判断:端侧AI的机会,在于把每天那几个小任务做得足够顺手。 比如拍一页说明书提取操作步骤,或从一张截图里整理待办。这些是我会优先验证的场景,能不能读准、等多久、连用后热不热,都比“参数装进手机了”更影响留存。 如果一次省两分钟,却让人等到没耐心,或者处理完就想找充电器,用户很难养成习惯。 你最想让手机本地AI先解决哪件小事? 官方资料:https://github.com/OpenBMB/MiniCPM-V 配图为AI生成概念示意图。

曝光 37 · 评论 4 · 点赞 2 · 书签 0

TwKit
正在载入