Que sont les modèles Nemotron 3.5 de NVIDIA, et lequel convient à votre matériel?

NVIDIA est surtout connue pour les puces qui entraînent l’IA, mais elle fait aussi des modèles. Nemotron est sa famille de modèles ouverts, conçue pour les agents, des programmes qui utilisent un modèle pour planifier et appeler des outils sur de nombreuses étapes. La génération 3.5 est arrivée par étapes : Lightning en août, Super VL et Bolt 74B-A9B le 15 octobre, et Bolt E4B le 23 octobre.

Pourquoi une entreprise de puces donnerait-elle des modèles? Ceux-ci sont réglés pour son propre matériel, et son billet montre clairement qu’elle veut que les organisations fassent tourner leurs agents sur des systèmes NVIDIA. C’est bon à garder en tête en lisant ses affirmations de performance.

La famille en un coup d’œil

Un paramètre est un nombre appris, et un jeton est un petit morceau de texte. Dans un modèle à mixture of experts (mélange d’experts), seule une partie des paramètres travaille sur chaque jeton : les paramètres actifs déterminent donc la vitesse, et le total, la mémoire. Lightning, Super VL et Bolt 74B combinent cela avec des couches Mamba, une conception qui parcourt une séquence sans comparer chaque mot à tous les autres, et quelques couches d’attention.

NVFP4 et GGUF désignent des formats. NVFP4 est un format compact sur 4 bits pour les puces NVIDIA, et GGUF est le type de fichier lu par llama.cpp, un moteur populaire pour les ordinateurs ordinaires. Lightning et Super VL acceptent aussi jusqu’à un million de jetons de contexte, mais la mémoire d’un long contexte s’ajoute à la taille du fichier.

Un détail auquel vous ne vous attendez peut-être pas : Bolt E4B n’est pas entraîné à partir de zéro. Sa fiche dit que NVIDIA l’a post-entraîné à partir de Gemma 4 E4B, de Google, pour améliorer l’usage des outils et le respect des consignes. C’est un bon rappel que les modèles ouverts s’appuient les uns sur les autres, et qu’une chaîne de licences peut suivre.

Un exemple concret : associer un modèle à une machine

Voici comment raisonner, à partir du matériel indiqué sur chaque fiche.

Prenez ces lignes comme points de départ. La fiche de Lightning marque encore comme non publiée la recette de la GeForce RTX 5090, même si ce matériel a les cœurs de calcul nécessaires : une carte de jeu peut donc demander un peu plus de travail. La mémoire utilisée par un vrai agent dépend aussi de la quantité de contexte que vous gardez ouverte.

Sont-ils bons?

NVIDIA déclare ses chiffres avec un harnais constant, ce qui compte plus que les résultats eux-mêmes. Elle publie aussi les recettes pour les reproduire. À ses propres tests, Lightning en NVFP4 obtient 52,8 à SWE-bench Verified et 75,57 à GPQA Diamond, qui mesure les sciences de niveau supérieur. Il obtient 10,47 à Humanity’s Last Exam et 23,46 à Terminal-Bench 2.1.

Ce sont des chiffres modestes face aux très grands modèles de ce guide. Lightning n’a que 3 milliards de paramètres actifs : c’est un auxiliaire pour les tâches rapides et les sous-agents, pas le remplaçant d’un modèle de pointe. NVIDIA dit aussi que Super VL approche en précision son plus grand modèle de raisonnement, Ultra, avec environ le cinquième des paramètres; cela vient du billet de NVIDIA et mérite votre propre test.

La vraie distinction de la famille est l’ouverture. NVIDIA décrit Nemotron comme ayant des poids, des données d’entraînement et des recettes ouverts, et la fiche renvoie à ses ensembles de préentraînement. Peu de laboratoires vont aussi loin à ce niveau. Pour une chercheuse, ou pour une organisation qui doit expliquer d’où vient le savoir d’un modèle, cela vaut plus que quelques points de banc d’essai. Lisez la documentation des données pour votre modèle précis avant de le dire entièrement ouvert.

Que permet la licence OpenMDW?

Presque tout. OpenMDW 1.1 est une courte licence écrite pour les modèles. Elle accorde le droit de disposer des « Model Materials » sans restriction, y compris pour les droits d’auteur, les brevets, les bases de données et les secrets commerciaux. Les fiches 3.5 la nomment comme licence applicable. Elle n’a ni seuil de revenus, ni mention obligatoire, ni politique d’utilisation intégrée, et elle n’impose aucune restriction sur les sorties.

Elle demande très peu en retour. Si vous redistribuez, gardez une copie de l’entente et les avis d’origine. Si vous poursuivez quelqu’un en affirmant que le matériel enfreint un brevet ou un droit d’auteur, vos droits prennent fin, sauf si vous répondez à une poursuite intentée d’abord contre vous. Il vous revient aussi de libérer les droits d’autrui qui pourraient s’appliquer.

Cette dernière clause compte surtout pour des modèles comme Bolt E4B, qui contiennent le travail d’un autre. Sa fiche explique que Gemma 4 de Google relève d’Apache 2.0, une licence permissive elle aussi : il n’y a donc pas de conflit, mais vous devez aussi conserver ces avis. Et vérifiez la fiche exacte de votre fichier : les anciens modèles Nemotron 3 utilisent une autre licence de NVIDIA.