Pourquoi les modèles d’IA les plus puissants sont-ils d’abord lancés à des groupes restreints?

Dans le logiciel ordinaire, un lancement limité signifie d’habitude un problème de capacité ou un plan de marketing. Dans l’IA de pointe cette année, il en est venu à signifier autre chose : une entreprise a bâti un modèle qu’elle juge trop risqué pour le vendre à tout le monde dès le premier jour, du moins jusqu’à ce que les protections rattrapent le retard.

Le déclencheur est la cybersécurité. Les modèles qui se sont améliorés en programmation se sont aussi améliorés pour trouver des failles logicielles et écrire des attaques qui fonctionnent. Dans le cas de Mythos, Anthropic dit que cette capacité vient de compétences générales en code et en raisonnement, et non d’un entraînement visant le piratage.

Comment les laboratoires s’y sont-ils pris?

Ce n’est pas une seule politique. « Limité » peut désigner un groupe fermé pendant des mois ou une pause de quelques jours. Et les limites visent maintenant souvent une capacité précise plutôt que le modèle entier. GPT-6.1 Terra, d’OpenAI, est classé Critique en cybersécurité sur l’échelle de l’entreprise, mais il est allé directement aux clients payants, avec des protections en place.

Quels sont les arguments pour retenir un modèle?

L’argument principal porte sur le temps. Trouver et réparer une faille prend du temps : quelqu’un doit écrire le correctif, puis des millions de systèmes doivent l’installer. Si attaquants et défenseurs reçoivent un outil puissant le même jour, les attaquants peuvent y gagner davantage, car il leur suffit d’un système non corrigé alors que les défenseurs doivent tout réparer.

Une période d’accès limité a donc des objectifs concrets :

• Réparer d’abord les logiciels les plus importants. Anthropic dit que les participants de Glasswing ont trouvé plus de 10 000 vulnérabilités dans des logiciels essentiels. C’est le chiffre de l’entreprise.
• Tester les protections sur du vrai travail. Google dit vouloir des commentaires et de meilleurs garde-fous avant que Carbon arrive au public.
• Laisser les gouvernements regarder en premier. Google dit participer aux tests volontaires du gouvernement américain avant lancement.

Cette approche peut coûter cher à l’entreprise. Le dossier d’entrée en Bourse d’Anthropic indique que la limitation de Mythos a peut-être nui à ses revenus à court terme, et prévient que de telles mesures pourraient la ralentir par rapport à des concurrents qui n’en ont pas.

Quels sont les arguments contre?

Chacune de ces critiques a du poids.

Ça ne fait que gagner du temps. Just Security a soutenu en mai que restreindre Mythos pouvait ralentir la diffusion de cette capacité, mais pas l’empêcher. En septembre, des faits ont appuyé cette position. Un laboratoire du gouvernement américain, le Center for AI Standards and Innovation du NIST, a jugé que GLM-5.3, de l’entreprise chinoise Zhipu AI, était le modèle à poids ouverts le plus fort en cybersécurité à ce jour, à environ quatre mois de la frontière américaine dans ses tests cyber. Poids ouverts signifie que n’importe qui peut le télécharger et l’exécuter. Les tests d’Anthropic ont montré que ses protections pouvaient être contournées de 64 % à 100 % du temps avec des techniques simples. Anthropic est une concurrente, alors son cadrage demande une certaine prudence, même si elle dit que ses résultats sur les capacités concordent en gros avec ceux du gouvernement.

Ça laisse de côté la plupart des organisations. Just Security signale aussi les écoles, les hôpitaux et les services publics qui n’ont pas les moyens de s’offrir les meilleures défenses ou de remplacer leurs vieux systèmes, et prévient qu’ils pourraient être poussés vers les grands fournisseurs infonuagiques.

Ça concentre le pouvoir. Une poignée d’entreprises décident qui est protégé en premier, et les gouvernements peuvent aussi intervenir. Vu de l’extérieur des États-Unis, le portrait peut être différent. Le Centre canadien pour la cybersécurité a obtenu l’accès à Mythos lors de l’élargissement de juin, et Anthropic n’a pas voulu dire à BetaKit quelles organisations canadiennes figuraient sur sa liste. Jon Ferguson, de l’Autorité canadienne pour les enregistrements Internet, a dit à BetaKit que Mythos montre la vulnérabilité du Canada sans capacité d’IA souveraine. Le dossier d’Anthropic indique aussi que des restrictions américaines à l’exportation, en juin, l’ont amenée à désactiver Fable 5 et Mythos 5 pour tous ses clients jusqu’à leur levée.

Ça sert aussi de marketing. BetaKit rapporte que certains critiques voient dans les limites de Mythos un stratagème pour rendre le produit indispensable. Dire qu’un modèle est trop dangereux pour être lancé revient aussi à dire qu’il est très bon, et on ne peut pas le tester entièrement de l’extérieur. Le dossier d’Anthropic mentionne lui-même, parmi ses risques, que de telles coalitions pourraient être perçues comme exclusives ou anticoncurrentielles.

Comment évaluer un lancement limité?

À la prochaine annonce, ces questions seront plus utiles que le titre :

Voici l’annonce d’un lancement limité de modèle par une entreprise d’IA : [colle le texte].
Réponds uniquement à partir du texte, et écris « non précisé » quand il ne le dit pas :
1. Qui a accès en premier, et comment ces personnes sont-elles choisies?
2. Quel risque précis justifie la limite?
3. Quels résultats de tests appuient ce risque, et qui a fait les tests?
4. Que doit-il se passer avant que l’accès s’élargisse? Y a-t-il une date?
5. Y a-t-il du soutien pour ceux qui n’ont pas accès, par exemple des crédits ou des outils gratuits?

Que peut faire une petite organisation en attendant l’accès?

La plus grande partie du travail utile n’exige aucun modèle restreint. Comme les attaquants pourraient bientôt avoir des outils semblables, la priorité est de réduire le temps entre la publication d’un correctif et son installation. Cela veut dire activer les mises à jour automatiques, remplacer les appareils et logiciels qui n’en reçoivent plus, savoir ce que vous avez de branché à Internet et garder des sauvegardes testées. Notre liste de sécurité passe ces étapes en revue.

Vous pouvez aussi utiliser des modèles largement accessibles pour la défense. Demandez-leur de relire votre code ou votre configuration pour y repérer des erreurs courantes, en gardant votre jugement sur ce qu’il faut changer. Si vous maintenez un logiciel à code source ouvert, renseignez-vous sur les programmes que les laboratoires offrent aux responsables de projets : Glasswing, d’Anthropic, comprenait des dons à des groupes de sécurité du code ouvert, et OpenAI offre à des responsables choisis un accès conditionnel à Codex Security.

Rien de tout cela n’exige une invitation au programme d’une entreprise.