推文

@xiax0603 · 2026-10-13 08:13

🚨效率曲线改写！MiniCPM‑V4.7，小模型端侧多模态完成越级 MiniCPM‑V4.7带来1B与35B‑A3B两套版本，把高性能多模态真正落地到手机本地硬件。 停车路牌推理的对照截图非常直观，优化前解码速度仅2.0 token/s，输出只是零散信息罗列；经过技术优化后解码速度提升到6‑7.9token/s，能够直接输出结构化完整答案，OCR识别与逻辑推导全部完成。 实测iPhone17 Pro Max本地运行35B‑A3B，解码速度可达13+tokens/s，内存占用仅3GB。横向对比，35B‑A3B综合得分高于Qwen3.6‑35B‑A3B，推理耗时反而更少。 整套技术在压低推理延迟的同时，保留OCR、逻辑推理、视频理解能力。 这充分说明智能‑成本效率曲线不唯参数量论，1B规格在不少实用场景可以超过更大规模模型。 客观来讲，它擅长日常图文理解，面对超复杂难题，能力上限依旧和云端旗舰存在差距。

曝光 1081 · 评论 9 · 点赞 7 · 书签 0 · 曝光/时 48.35152629799088