Que change vraiment la nouvelle règle d’Anthropic contre les abus envers Claude?

Une politique d’utilisation est la liste de ce que les clients d’une entreprise s’engagent à ne pas faire avec son produit. Anthropic a publié une nouvelle version de la sienne le 8 octobre, et le texte entre en vigueur le 12 novembre 2026. Une nouvelle ligne figure dans une section sur les conduites cruelles et abusives, à côté des interdictions visant les contenus qui glorifient la violence : les utilisateurs ne doivent pas adopter de comportement abusif ou cruel, soutenu et gratuit, envers les modèles de l’entreprise.

L’entreprise dit que la règle est étroite. Le débat qui l’entoure porte sur une question plus large : est-il sensé d’imposer des bonnes manières envers un logiciel, et au profit de qui?

Que couvre la règle?

La description d’Anthropic fixe ces limites :

Le principal moyen d’application n’est pas nouveau. Claude peut déjà mettre fin à une conversation avec une personne qui persiste dans l’abus sur Claude.ai et dans Claude Code, et Anthropic dit que ce mécanisme reste le principal. CNN rapporte que certains utilisateurs pourraient, dans des cas extrêmes, être bannis pour de bon selon le nouveau texte. Anthropic n’a pas publié de seuil, alors personne à l’extérieur de l’entreprise ne peut dire exactement où passe la ligne.

Quels sont les arguments contre?

Les critiques ont soulevé trois points principaux.

• Rien ne montre que le modèle souffre. The Register rappelle que Claude est un logiciel, que sa détresse n’a pas été établie et qu’il est étrange de demander à des clients payants de surveiller leurs manières.
• La ligne est difficile à tracer. Le même article demande comment Anthropic distinguera la cruauté gratuite de la frustration légitime. Un mot comme « gratuit » dépend du jugement.
• On dirait qu’on traite un produit comme une personne. CNN décrit des moqueries en ligne, notamment contre l’idée d’un robot conversationnel doté de sentiments, et un émoji de visage qui fond publié par Mustafa Suleyman, le patron de Microsoft AI.

Quels sont les arguments pour?

Les partisans parlent surtout d’effets, et non de sentiments. CNN rapporte les points de vue suivants :

• Le ton peut changer le résultat. Le professeur Jindong Wang, de William & Mary, dit que la formulation peut aider ou nuire au rendement, tout en ajoutant que les modèles récents y sont moins sensibles. Rosie Campbell, d’Eleos AI Research, un organisme sans but lucratif qui étudie le bien-être potentiel des IA, souligne que les preuves sont partagées et que certaines études ont constaté que les prompts impolis amélioraient les résultats.
• L’abus peut être un signal d’alerte. Selon Rosie Campbell, les conversations abusives vont souvent de pair avec des tentatives de contourner les garde-fous de sécurité.
• Les habitudes peuvent compter. Elle soutient aussi qu’il y a quelque chose de corrosif à se montrer cruel envers des objets, même si l’objet lui-même n’a pas d’importance, et elle compare cela aux parents qui demandent à leurs enfants de dire s’il vous plaît à Alexa.
• C’est une assurance peu coûteuse. CNN rapporte qu’Anthropic voit la règle comme une protection à faible coût, au cas où les modèles pourraient d’une certaine façon éprouver de la détresse. Cette question, souvent appelée le bien-être des modèles, n’est pas résolue.

Ni la règle ni l’annonce d’Anthropic n’affirment que Claude ressent quoi que ce soit.

Qu’est-ce qui change d’autre?

Les autres changements touchent bien plus de gens. Anthropic décrit la plupart comme une formulation plus claire de règles existantes, à la lumière des abus qu’elle a observés.

Le changement sur les élections est l’assouplissement le plus net. Anthropic dit que l’ancienne interdiction touchait aussi du travail civique légitime, par exemple un organisme qui traduit de l’information électorale ou des responsables qui envoient des avis sur des problèmes de bulletin. Elle affirme que le ciblage trompeur et le mauvais usage de renseignements personnels restent interdits par d’autres sections. On peut raisonnablement se demander comment ces sections tiendront pendant une campagne, puisque la frontière entre persuasion et manipulation est souvent contestée.

Il est aussi utile de distinguer ce que dit une politique de ce qui se passe réellement. Le dossier d’entrée en Bourse d’Anthropic estime que de 5 % à 7 % de ses revenus des neuf premiers mois de 2026 venaient de clients qui, selon ce qu’elle a établi ensuite, enfreignaient sa politique d’utilisation ou ses conditions. Elle précise que la détection et l’application prennent du temps et qu’elle a resserré les deux en août et en septembre.

La nouvelle politique change-t-elle votre façon d’utiliser Claude?

Pour presque tout le monde, non. Sacrer devant une mauvaise réponse, argumenter avec Claude ou demander une nouvelle bien sombre restent hors de la règle telle qu’Anthropic la décrit. Si vous testez des modèles dans le cadre de votre travail, les tests sont exclus eux aussi.

Les changements comptent davantage si vous bâtissez un produit sur Claude. Avant le 12 novembre, il vaut la peine de comparer votre produit à la liste :

Voici une description de mon produit : [décris-le].
Voici le texte de la politique d’utilisation d’Anthropic : [colle-le].
Énumère toutes les sections qui pourraient s’appliquer à mon produit. Pour chacune, cite la ligne pertinente, dis si elle m’impose quelque chose (par exemple une révision humaine ou l’obligation de dire aux utilisateurs que l’IA est en cause) et signale tout ce dont tu n’es pas sûr, pour qu’un juriste le vérifie.

Soyez particulièrement attentif si votre produit fait des recommandations sur la santé, les droits, l’argent, l’emploi ou les services essentiels, s’il touche au travail policier ou aux enquêtes, ou s’il commande du matériel. C’est là que le nouveau libellé est le plus précis. Le résultat d’un tel prompt est un point de départ pour votre propre vérification, pas un avis juridique.