NVIDIA Nemotron 3.5 Bolt : un modèle ouvert de 74 milliards de paramètres qui tient dans 24 Go pour des agents IA en local

Faire tourner un agent IA compétent chez soi demande en général beaucoup de mémoire. Le 15 octobre 2026, NVIDIA a publié trois nouveaux modèles Nemotron 3.5, et le plus intéressant pour les particuliers est conçu pour tenir sur une seule carte graphique grand public.

Trois modèles, trois tailles

• Nemotron 3.5 Super VL : un modèle multimodal ouvert de 120 milliards de paramètres pour les agents en entreprise. NVIDIA le dit jusqu’à 5 fois plus rapide que le meilleur modèle ouvert concurrent de sa catégorie.
• Nemotron 3.5 Bolt 74B-A9B 24GB : un modèle « mixture of experts » de 74 milliards de paramètres, environ 9 milliards actifs par token, quantifié nativement en 2 bits pour tenir dans 24 Go. Disponible dès maintenant.
• Nemotron 3.5 Bolt E4B 4GB : un petit modèle pour assistants vocaux et robots, attendu le 23 octobre.

Ce que 24 Go veut vraiment dire

Les 24 Go valent pour le texte seul. D’après la fiche du modèle, la vision ajoute environ 1,68 Go, et une configuration llama.cpp réaliste demande 32 Go ou plus pour un contexte de 65 000 tokens, 48 Go pour 256 000. Le modèle tourne sous llama.cpp, Ollama, LM Studio, Unsloth et vLLM, sur les PC GeForce RTX, le DGX Spark et les nouveaux portables RTX Spark.

NVIDIA affirme que Bolt 74B est premier des modèles ouverts de sa catégorie sur PinchBench et deuxième sur BrowseComp. Ce sont ses propres chiffres, pas les nôtres. TechRepublic souligne que les modèles Bolt visent des agents qui naviguent sur le web, écrivent et déboguent du code en local.

L’avis Rocks

C’est la sortie « agent local » la plus réaliste depuis des semaines : une carte de classe RTX 4090 ou 5090 peut vraiment la charger, contrairement aux géants de 800 milliards de paramètres. Pour une installation Home Assistant, le petit Bolt E4B pourrait être le plus intéressant : 4 Go pour un assistant vocal local. On le testera à sa sortie le 23 octobre.