Qu’est-ce que DeepSeek-V4.1-Flash, et pourquoi un plus petit cache de mémoire le rend-il moins cher?

DeepSeek a publié V4.1-Flash hier, avec un message inhabituel. L’entreprise dit que ce plus petit modèle bat son propre modèle phare, V4-Pro, en performance, en coût, en vitesse et en temps d’exécution total dans des tests de plusieurs parties : elle retire donc progressivement V4-Pro. À partir du 14 septembre, les requêtes envoyées à deepseek-v4-pro vont au nouveau modèle et sont facturées à ses tarifs, jusqu’au lancement d’un V4.1-Pro.

Les poids sont sur Hugging Face sous la licence MIT. Les poids sont les nombres appris d’un modèle, et MIT est l’une des licences les plus permissives qui soient.

Ce qui a été publié

Un paramètre est un nombre appris, et un jeton est un petit morceau de texte. C’est un modèle à mixture of experts (mélange d’experts) : 384 experts routés par couche, dont 6 choisis par jeton, plus un partagé. Le modèle comprend aussi une mémoire distincte de 196 milliards de paramètres, appelée Engram, consultée par des recherches selon les jetons, ce qui aide à expliquer pourquoi le décompte de paramètres de Hugging Face dépasse 552 milliards. Le téléchargement fait environ 510 Go. V4.1-Flash lit nativement le texte et les images, et il a été préentraîné sur 45 billions de jetons.

Ce qu’est un cache KV, et pourquoi il coûte cher

Pour suivre cette publication, il faut une idée. Quand un modèle de langage lit votre texte, il se fait des notes sur chaque jeton, le cache KV (key-value, clé-valeur). Il les consulte pendant qu’il écrit. Les longues conversations et les séances d’agents gardent d’énormes caches, et cette mémoire coûte cher : elle occupe des puces à grande bande passante, ou des disques rapides quand on la déporte.

Les changements de DeepSeek visent directement ce coût. L’entreprise déclare un cache KV global de 890 octets par jeton. Voici un exemple de ce que cela veut dire pour une longue séance :

Par rapport à la génération précédente, DeepSeek dit que le cache demande le quart de la mémoire à grande bande passante et le huitième du stockage sur disque. La fiche décrit une réduction d’environ quatre fois par rapport à V4-Flash et de 437 fois par rapport à DeepSeek-V1. C’est une économie à l’échelle du serveur. Un fournisseur occupé qui garde de nombreuses séances en profite le plus, et DeepSeek dit que ces frais d’entrée en cache représentent souvent une grande part de la facture des agents.

Comment fonctionne la conception

Trois idées font l’essentiel du travail, en termes simples.

Un encodeur et un décodeur différents. Les 40 couches du modèle se divisent en un encodeur de 20 couches et un décodeur de 20 couches, et les notes stockées viennent de la dernière étape de l’encodeur plutôt que de chaque couche du décodeur. Voilà pourquoi la lecture active 8 milliards de paramètres et l’écriture, 16 milliards. Le travail des agents comporte bien plus de lecture que d’écriture : une voie de lecture peu coûteuse est donc rentable.

Le partage des notes entre les couches. Une deuxième version de son attention clairsemée compressée permet aux couches de réutiliser les données en cache et les résultats de recherche des autres, au lieu que chacune garde les siens.

La rédaction à l’avance. DSpark est du décodage spéculatif, où une ébauche rapide propose du texte et une vérification le confirme, pour gagner du temps.

Quelle est sa force?

La fiche de DeepSeek compare ses modèles de base sur des bancs d’essai plus anciens : la base de V4.1-Flash mène à BigCodeBench (60,6) et à HumanEval (79,4), mais celle de V4-Pro garde une nette avance aux tests de connaissances comme SimpleQA-Verified (55,2 contre 42,3). « Devant Pro » vaut donc davantage pour les résultats d’agents que DeepSeek met en avant que pour le savoir stocké. Ces chiffres sont les siens, et il faudra du temps à des tiers pour les vérifier.

L’effort se règle sur une échelle de 1 à 100 : vous payez donc pour autant de raisonnement qu’une tâche en demande.

Ce qu’il faut pour l’autohéberger

Ajustez d’abord vos attentes selon la taille du fichier. À environ 510 Go, les poids demandent au moins sept cartes graphiques de 80 Go avant de compter le cache, et l’exemple de conversion de DeepSeek utilise une répartition sur huit GPU. Le code de référence de DeepSeek se présente comme lisible, pas comme un moteur de production, et l’entreprise dit travailler avec la communauté du code source ouvert sur le soutien à l’inférence. Attendez-vous donc à quelques aspérités au début si vous le servez vous-même.

La licence MIT n’exige rien de plus que de garder l’avis. Il n’y a ni plafond de revenus, ni mention obligatoire, ni condition pour l’hébergement de modèles : un fournisseur peut donc l’héberger librement. Les données d’entraînement ne sont pas publiées : ce sont donc des poids ouverts, et non du code source ouvert au sens strict.

Que change cette publication si vous utilisez déjà DeepSeek-V4?

Si vous appelez l’API, vérifiez vos réglages maintenant. Le nouveau nom du modèle est deepseek-flash. V4-Flash et la version d’essai pour la vision sont retirés, et leurs anciens noms sont temporairement dirigés vers V4.1-Flash. Comme deepseek-v4-pro est lui aussi redirigé le 14 septembre, quiconque avait choisi Pro pour une raison précise devrait faire ses tests dès maintenant. Les résultats aux tâches axées sur les connaissances pourraient baisser même si le code s’améliore.

Si vous autohébergez V4-Pro, rien ne change de soi-même, car vos fichiers continuent de fonctionner. La publication justifie tout de même une comparaison avec V4.1-Flash, qui demande bien moins de mémoire.

Et la prudence habituelle vaut pour le service hébergé. Ses données vont à DeepSeek selon les conditions décrites dans notre guide pour essayer DeepSeek-V4. Les poids ouverts donnent aux organisations canadiennes une autre voie, avec un hébergeur ou du matériel de leur choix.