MiniCPM-V 4.7: un MoE multimodale da 35B che gira sullo smartphone con ~3 GB

Un grande modello multimodale di solito richiede una GPU potente o il cloud. Il 15 ottobre 2026, ModelBest e la comunità OpenBMB hanno annunciato MiniCPM-V 4.7, una famiglia open source che comprende immagini, documenti e video direttamente su smartphone e tablet. I pesi erano già su GitHub dal 12 ottobre; il comunicato rende ufficiale il lancio.

Due taglie: 35B-A3B e 1B

Il modello di punta, MiniCPM-V 4.7 35B-A3B, è il primo «mixture of experts» (MoE) della serie: 35 miliardi di parametri in totale, ma solo circa 3 miliardi attivi per token. Gran parte degli esperti resta nella memoria di archiviazione e viene caricata quando serve: così funziona con circa 3 GB di memoria su iOS e Android (il README cita anche HarmonyOS).

La versione 1B, derivata da MiniCPM-V 4.6, punta ai dispositivi economici: visione generale, OCR, grafici e più immagini insieme.

Il trucco: Lookahead Expert Scheduling

Mentre uno strato calcola, il Lookahead Expert Scheduling (LES) prevede quali esperti serviranno allo strato successivo e li precarica. Secondo ModelBest, oltre l’80 % è pronto in anticipo senza addestramento aggiuntivo, e dato che il router originale decide comunque, le risposte restano identiche con o senza LES. Con quantizzazione per strato e archiviazione contigua degli esperti, l’azienda dichiara:

• generazione circa 5 volte più veloce su iPad Pro M4 da 16 GB;
• oltre 17 token/s su quell’iPad Pro M4;
• oltre 13 token/s su iPhone 17 Pro Max.

Cosa sa fare

Comprensione visiva, problemi scientifici, OCR, documenti, grafici e video lunghi. I token visivi si possono comprimere 4 o 16 volte; a 16x ModelBest dichiara 90,9 su MMBench e 90,4 su OCRBench. Il nuovo Self-Replay Fine-Tuning reinserisce nell’addestramento le migliori risposte del modello per imparare compiti nuovi senza dimenticare i vecchi.

Compatibile dal primo giorno

Supporto immediato da AMD, Apple, Arm, Houmo AI, Intel, Rockchip e NVIDIA, più molti chip cinesi (Huawei, Hygon, Moore Threads, MetaX, T-Head…) tramite FlagOS. Pesi e codice di inferenza e fine-tuning sono pubblici, con le schede su Hugging Face.

Il parere di Rocks

Velocità e benchmark sono dati del produttore: servono test indipendenti. Ma è proprio la direzione giusta per una casa connessa locale: un modello visivo che legge un contatore, l’etichetta di un pacco o lo scatto di una telecamera senza mandare nulla nel cloud. Occhio al supporto Rockchip, i chip di tante schede che già usiamo accanto a Home Assistant. Lo proveremo prima di consigliarlo.