昊梵体育网

MiniCPM-V 4.7 开源发布

OpenBMB 这次发布 MiniCPM-V 4.7,值得关注的点是:它想同时推进开源多模态大模型(MLLM)的性能–效率帕累托前沿,并把能力带到 iOS 和 Android 设备端。对关注本地 AI、端侧多模态的人,这是一条比较实用的模型新闻。

这次有两个新模型:
🔹 MiniCPM-V 4.7 35B-A3B:引入 LES(Lookahead Expert Scheduling),通过预测并预加载专家权重减少推理停顿。官方称在 iPad Pro M4(16GB)上实现 5× 加速,且输出逐字节一致。
🔹 MiniCPM-V 4.7 1B:轻量、高效,更易部署。

几个有依据的亮点:
⚡ 性能:官方称在 34 个基准上取得有竞争力的结果,覆盖多模态理解、STEM 推理、OCR 和长视频理解。
📱 端侧速度:35B-A3B 在 iPad Pro M4(16GB)上达到 17+ tokens/s,在 iPhone 17 Pro Max 上达到 13+ tokens/s,仅消耗 3GB 内存。
🔍 视觉处理:使用 4× 和 16× 混合视觉 token 压缩。即使在 16× 压缩下,35B-A3B 在 OCRBench 上得分 90.4,领先 Qwen3.6 35B-A3B 5.2 分。
🛠 定制与硬件:引入 Self-Replay Fine-Tuning,用于低成本定制新目标能力并保持通用性能;面向 Apple、Intel、AMD、Arm 和 Rockchip 的 Day-0 适配,也通过 FlagOS 支持更多平台。

我的看法:如果这些端侧数字在更多真实设备与场景中复现,离线 OCR、翻译、本地视频理解等对隐私和延迟敏感的任务可能会受益。这个尺寸实在是太友好了。

#AI新鲜事