Qu’est-ce que Kolibri-1, et que vous donne vraiment un modèle ouvert « souverain »?

L’allemande Aleph Alpha a publié Kolibri hier, le jour de la Réunification allemande. La date n’a rien d’un hasard. L’entreprise le décrit comme un modèle spécialisé pour le travail souverain et essentiel dans l’administration publique, l’industrie et l’aérospatiale. Souverain veut dire ici que le client garde le contrôle de l’endroit où tourne le modèle et des lois qui s’appliquent, au lieu d’envoyer ses données à un service à l’étranger.

Les lecteurs canadiens ont aussi une raison de s’y intéresser. Aleph Alpha a signé une entente ferme de fusion avec Cohere, de Toronto, selon Trending Topics; l’entreprise fusionnée prendrait le nom de Cohere et Heidelberg resterait un pôle de recherche. Ce modèle pourrait donc compter ici aussi.

Ce qui a été publié

Un paramètre est un nombre appris, et un jeton est un petit morceau de texte. Kolibri est un modèle à mixture of experts (mélange d’experts) : 384 blocs d’experts par couche, dont 6 choisis pour chaque jeton, plus un toujours utilisé. Le calcul reste ainsi bas alors que la mémoire reste élevée, un compromis que la fiche énonce clairement. Le blogue de l’entreprise arrondit le chiffre des actifs à 3 milliards.

Comment ça marche

La plupart des choix du modèle découlent de sa concentration sur deux langues. Le corpus de préentraînement comptait environ 62,5 % d’anglais, 23,9 % d’allemand et 13,6 % de code, pour 20 billions de jetons au total, sur 768 puces NVIDIA B200 pendant 21 jours. Aleph Alpha a aussi bâti son propre segmenteur (tokenizer), le composant qui découpe le texte en jetons. L’allemand forme de longs mots composés, et Trending Topics donne l’exemple de « Bundessozialgerichtes », que Kolibri coupe en quatre parties qui ont du sens.

Les longs documents ont aussi droit à un traitement particulier. La plupart des couches d’attention ne regardent que le texte voisin, et un plus petit nombre regarde tout le contexte, dans un rapport de quatre pour un. Pensez à la lecture d’un long contrat, en vous concentrant sur la page courante, avec des retours occasionnels dans tout le dossier. Trending Topics rapporte aussi que le modèle a été entraîné à dire qu’il ne sait pas quand la réponse ne se trouve pas dans les documents. C’est précieux pour des dossiers gouvernementaux, mais à vérifier chez vous.

Ce qu’il faut pour le faire tourner

C’est là que Kolibri se démarque, car une seule ligne de la fiche suffit pour planifier :

C’est un seul serveur, pas une grappe, et c’est bien plus près de ce qu’un ministère ou une entreprise de taille moyenne peut acheter ou louer. À environ 78 Go, une carte de jeu ordinaire ne le contiendra pas. Des conversions communautaires peuvent convenir à de plus gros postes, mais il faut alors vérifier la qualité et la vitesse. La fiche dit que Kolibri exige le logiciel d’inférence d’Aleph Alpha, qui fournit un module pour vLLM, ou son image de conteneur : l’installation demande donc plus qu’un simple clic.

La fiche recommande aussi une révision humaine. Elle dit que le modèle a sa place du côté consultatif des décisions et n’est pas le composant qui décide, ce qui correspond de toute façon à ce qu’un organisme public devrait en faire.

Le débat sur les résultats

Aleph Alpha compare Kolibri à Mistral Small 4, à Nemotron 3 Super de NVIDIA et à Qwen3.6-35B-A3B d’Alibaba. Il mène plusieurs tests dans ce groupe, avec 84,3 % à GPQA Diamond et 85,9 % à LiveCodeBench, et Qwen3.6 mène pour les tâches d’agents et le long contexte.

Trending Topics soutient que ce peloton flatte le modèle, puisque ces rivaux ont déjà des mois. Sur un indice global, elle compte 20 modèles à poids ouverts ou plus devant Kolibri, et elle dit que des modèles de taille active semblable, comme Qwen3.8-Flash-Next d’Alibaba, sont nettement devant. Aleph Alpha répond que les bancs d’essai publics reflètent mal ses clients, et elle a bâti ses propres tests pour l’administration publique, les équipementiers automobiles et l’aérospatiale, où elle déclare de nets gains sur Kolibri Origin, son modèle interne précédent.

Les deux points peuvent être vrais. Une agence allemande qui note des modèles sur des tâches administratives en allemand peut obtenir un autre classement qu’un indice mondial. La façon honnête de décider est de faire votre propre test, avec vos propres documents.

Que couvre vraiment la licence Apache 2.0 de Kolibri?

Les poids et les fichiers de configuration sont sous Apache 2.0, qui permet l’usage commercial, la modification et la redistribution, sans seuil de revenus. Vous devez garder la licence et les avis et marquer les fichiers modifiés.

La fiche ajoute une limite facile à manquer. Elle dit que les droits ne s’appliquent qu’aux poids et aux fichiers de configuration du dépôt. Le code, l’architecture, les réglages de paramètres et les méthodes d’entraînement restent hors de cette concession, et Aleph Alpha garde ses droits sur eux. Pour quiconque fait tourner ou ajuste finement le modèle, cela change peu. Pour quiconque espère copier la chaîne d’entraînement, cela compte, et c’est un bon rappel que les poids ouverts ne sont pas un processus entièrement ouvert.

« Souverain » a donc aussi ses limites. Kolibri a été entraîné sur des puces NVIDIA, les outils de service viennent d’un écosystème plus large, et une fusion pourrait changer qui oriente les prochaines versions. Ce que vous contrôlez vraiment, une fois les fichiers sur votre serveur, c’est l’endroit où vont vos données. Pour bien des organismes publics, c’est la partie qui compte le plus.