MiniCPM-V 4.7: открытая MoE-модель на 35 млрд параметров запускается на смартфоне с 3 ГБ памяти

Лаборатория OpenBMB и компания ModelBest выпустили открытое семейство мультимодальных моделей MiniCPM-V 4.7 под свободной лицензией Apache 2.0. Главная новинка — модель 35B-A3B: это архитектура смеси экспертов (MoE) с 35 миллиардами параметров, из которых на каждый токен активно задействуются лишь 3 миллиарда. Она способна работать полностью автономно прямо на смартфоне (в тестах на iPhone 17 Pro Max скорость генерации превысила 13 токенов в секунду), занимая около 3 ГБ оперативной памяти.

Как работает архитектура 35B-A3B

Перенос 35-миллиардной модели на портативное устройство обычно упирается в пропускную способность шины памяти. В MiniCPM-V 4.7 инженеры применили механизм упреждающего планирования экспертов (Lookahead Expert Scheduling, LES). Он предсказывает, какие блоки весов понадобятся на следующих шагах генерации, и заранее подгружает их в быструю память. В сочетании с послойным квантованием и спекулятивным декодированием это позволяет удерживать потребление ОЗУ в районе 3 ГБ без падения скорости инференса ниже интерактивного порога.

Одновременно представлена сверхлегкая плотная модель MiniCPM-V 4.7-1B с 1,3 млрд параметров. Она ориентирована на устройства с минимальными ресурсами и показывает лучшие результаты в своем классе при оптическом распознавании документов, решении математических задач и анализе коротких видео.

Раннее сжатие визуальных токенов

Еще одно заметное инженерное новшество — ранняя компрессия визуальных токенов прямо внутри оптического энкодера (развитие концепции intra-ViT из линейки LLaVA-UHD v4). Модель поддерживает адаптивные коэффициенты сжатия 4x и 16x.

При 16-кратном сжатии визуальных токенов объем вычислений в последующих слоях внимания сокращается в разы, а просадка качества остается символической: в бенчмарке MMBench результат снижается с 91,72 до 90,87 балла, а в OCRBench — с 91,20 до 90,40 балла. В специализированном тесте OmniDocBench v1.6 модель набрала 94,24 балла, оторвавшись от ближайших локальных конкурентов более чем на 12 пунктов.

Экосистема и запуск на устройствах

Релиз сопровождается поддержкой популярных движков инференса с первого дня. Модель готова к запуску в llama.cpp, Ollama, vLLM и SGLang. Для мобильных систем подготовлены нативные сборки под iOS, Android и HarmonyOS, а также оптимизации под чипы Intel, AMD, Arm, Rockchip и Houmo. Для дообучения предложена методика Self-Replay Fine-Tuning (SRFT), которая предотвращает забывание базовых навыков при адаптации под прикладные задачи.

Что показывают наши агрегаты

Интерес к легковесным и быстрым моделям подтверждается и реальной практикой нашего сервиса. За последние 30 дней (14.09–14.10.2026) на платформе завершено 14 515 генераций: 10 879 изображений (10 145 успешных, 93,3%), 3 194 видео (2 243 успешных, 70,2%) и 442 музыкальных трека (437 успешных, 98,9%). Это обезличенные агрегаты сервиса по всем пользователям без персональных данных.

Среди визуальных генераторов пользователи особенно ценят низкие задержки. Например, компактная скоростная модель Nano Banana 2 выполнила 2 069 задач с долей успешных исходов 98,0% (2 027 завершений). Протестировать быстрые мультимодальные решения можно в нашем чате.

Выход MiniCPM-V 4.7 показывает, что грань между серверными мультимодальными системами и локальным мобильным ИИ продолжает стираться. Автономная работа без интернета и сжатие MoE до 3 ГБ памяти открывают путь к приватным персональным ассистентам прямо в кармане.