MiniCPM-V 4.7: un MoE multimodal de 35B que funciona en el móvil con ~3 GB

Un modelo multimodal grande suele exigir una GPU potente o pagar la nube. El 15 de octubre de 2026, ModelBest y la comunidad OpenBMB anunciaron MiniCPM-V 4.7, una familia de código abierto que entiende imágenes, documentos y vídeo directamente en el móvil o la tableta. Los pesos ya estaban en GitHub desde el 12 de octubre; el comunicado oficializa el lanzamiento.

Dos tamaños: 35B-A3B y 1B

El modelo estrella, MiniCPM-V 4.7 35B-A3B, es el primer «mixture of experts» (MoE) de la serie: 35.000 millones de parámetros en total, pero solo unos 3.000 millones activos por token. La mayoría de los expertos se quedan en el almacenamiento y se cargan cuando hacen falta, y así funciona con unos 3 GB de memoria en iOS y Android (el README de GitHub menciona también HarmonyOS).

La versión 1B, basada en MiniCPM-V 4.6, apunta a dispositivos básicos: visión general, OCR, lectura de gráficos y varias imágenes a la vez.

El truco: Lookahead Expert Scheduling

Mientras una capa calcula, el Lookahead Expert Scheduling (LES) predice qué expertos necesitará la siguiente y los precarga. Según ModelBest, deja listos más del 80 % sin entrenamiento extra, y como el enrutador original sigue decidiendo, las respuestas son idénticas con o sin LES. Junto con la cuantización por capas y el almacenamiento contiguo de expertos, la empresa anuncia:

• generación unas 5 veces más rápida en un iPad Pro M4 de 16 GB;
• más de 17 tokens/s en ese iPad Pro M4;
• más de 13 tokens/s en un iPhone 17 Pro Max.

Qué sabe hacer

Comprensión visual, problemas científicos, OCR, documentos, gráficos y vídeos largos. Se puede comprimir los tokens visuales 4 o 16 veces; a 16x, ModelBest declara 90,9 en MMBench y 90,4 en OCRBench. El nuevo método Self-Replay Fine-Tuning mezcla las mejores respuestas del propio modelo en el entrenamiento para aprender tareas nuevas sin olvidar las anteriores.

Compatible desde el primer día

Soporte inmediato de AMD, Apple, Arm, Houmo AI, Intel, Rockchip y NVIDIA, además de muchos chips chinos (Huawei, Hygon, Moore Threads, MetaX, T-Head…) a través de FlagOS. Pesos y código de inferencia y ajuste son públicos, con fichas en Hugging Face.

La opinión de Rocks

Las cifras de velocidad y los benchmarks son del fabricante: habrá que esperar pruebas independientes. Aun así, es justo lo que queremos para una casa conectada local: un modelo de visión que lea un contador, la etiqueta de un paquete o una captura de cámara sin mandar nada a la nube. Ojo al soporte de Rockchip, los chips de muchas placas que ya usamos junto a Home Assistant. Lo probaremos antes de recomendarlo.