面壁智能推出 MiniCPM-V 4.7:3GB 内存实现 13+ token/s 端侧解码
面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,含 35B-A3B 和 1B 两种规格。35B-A3B 为系列首个 MoE 模型,在 iPhone 17 Pro Max 上以 3GB 内存实现 13+ token/s 解码,并同步开源 SRFT 微调方案。
面壁智能于 10 月 13 日正式推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 与 1B 两种规格。其中 35B-A3B 是 MiniCPM-V 系列首个采用 MoE 架构的模型,标志着该系列在端侧部署路线上的一次重要演进。
据官方介绍,35B-A3B 版本基于最新 LES(前瞻专家调度)推理加速技术,成为首个支持端侧无损流畅运行的开源 MoE 模型。在 iPhone 17 Pro Max 上,该模型仅占用 3GB 内存即可达到 13+ token/s 的解码速度,这一表现对于端侧大模型而言具有实际参考价值。
在平台兼容性方面,MiniCPM-V 4.7 同时支持 iOS、安卓与鸿蒙系统,并适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台,覆盖更多移动设备与本地计算场景。面壁智能同步开源了 Self-Replay Fine-Tuning (SRFT) 微调方案,旨在帮助开发者以较低成本扩展模型能力并减少遗忘,便于二次开发。
性能对比方面,35B-A3B 版本在 Instruct 模式下以更短的推理时间取得比 Qwen3.6 35B-A3B 更高的综合得分;1B 版本相比 MiniCPM-V 4.6 持续提升基础能力,并在综合得分和推理效率上均显著领先 Qwen3.5 0.8B。相关代码与文档已在 GitHub 的 OpenBMB/MiniCPM-V 仓库中开放。