MiniCPM-V 4.7：350亿MoE多模态开源模型在手机端运行，仅占3GB内存

OpenBMB与面壁智能正式开源了新一代端侧多模态模型家族MiniCPM-V 4.7，采用Apache 2.0开源协议。核心亮点是首款端侧MoE架构模型35B-A3B：总参数达350亿，每个Token推理仅激活30亿参数。在断网状态下的iPhone 17 Pro Max上，该模型解码速度超过每秒13个Token，内存占用仅约3GB，真正实现了大体量MoE多模态在手机本地流畅运行。

35B-A3B架构如何在移动端落地

将350亿参数模型塞入手机，最大的瓶颈在于内存带宽与换页开销。MiniCPM-V 4.7引入了前瞻专家调度机制（Lookahead Expert Scheduling，LES），能够提前预判后续推理所需的专家权重，并异步预加载至高速缓存中。结合细粒度逐层量化与投机采样解码，模型在将整体内存占用压缩至约3GB的同时，保持了流畅的交互速度。

同期发布的还有超轻量稠密模型MiniCPM-V 4.7-1B（实际参数1.3B）。该版本主打超小体积与高能效比，在同尺寸端侧模型中展现出第一梯队的OCR文字识别、理科问答及短视频理解水平。

ViT内部早期视觉Token压缩

另一项关键技术改进是基于LLaVA-UHD v4技术脉络的ViT内部早期压缩（intra-ViT early compression）。模型原生支持4倍与16倍的自适应视觉Token压缩模式。

在开启16倍视觉压缩后，后续注意力层的计算开销大幅降低，而基准测试指标几乎没有损失：MMBench综合得分仅从91.72微调至90.87，OCRBench从91.20降至90.40。在专业文档理解评测OmniDocBench v1.6上，模型更是拿到了94.24的高分，领先同类端侧竞品12分以上。

生态整合与端侧适配

MiniCPM-V 4.7在开源首日便完成了与主流推理框架的对接，全面兼容llama.cpp、Ollama、vLLM与SGLang。移动端方面提供了面向iOS、Android与HarmonyOS的原生应用与SDK，并覆盖了Intel、AMD、Arm、瑞芯微（Rockchip）以及后摩智能等多样化硬件平台。针对下游定制微调，开源团队还同步推出了Self-Replay Fine-Tuning（SRFT）训练方法，有效避免了模型在特定场景微调时的灾难性遗忘问题。

平台匿名运行数据观察

对轻量化、高响应速度模型的偏好，在我们自身平台的运行数据中同样有清晰体现。过去30天（2026年9月14日至10月14日），平台累计处理14,515次生成任务：其中图像生成10,879次（成功10,145次，成功率93.3%），视频生成3,194次（成功2,243次，成功率70.2%），音频音乐生成442次（成功437次，成功率98.9%）。以上数据均为面向所有用户的脱敏汇总统计，不含任何个人信息。

在图像模型中，低延迟与轻量级架构受到广泛青睐。例如高效图像模型Nano Banana 2在过去30天共完成了2,069次生成任务，成功率达98.0%（成功2,027次）。您也可以在我们的对话页面中体验各类前沿模型。

MiniCPM-V 4.7的面世表明，云端重型多模态与便携端侧AI之间的技术鸿沟正在被迅速填平。断网可用与3GB级轻量内存占用，正在让高度可信、保护隐私的随身智能体真正走进日常生活。