Anthropic interdit dans ses règles les insultes systématiques envers Claude

Anthropic a publié une nouvelle version des règles d'utilisation de ses modèles, et la liste des interdictions comprend désormais un point inhabituel pour le secteur. Les utilisateurs n'ont pas le droit de maltraiter systématiquement et avec une cruauté injustifiée les modèles d'IA, notamment en les insultant à plusieurs reprises sans but apparent. L'information provient de RB.RU. Il ne s'agit pas d'un mouvement d'humeur isolé, un soir d'agacement. La formulation vise une pratique durable.

Ce qui est exactement interdit

Les mots clés du texte de la règle sont « systématiquement », « de façon injustifiée » et « sans but apparent ». Ils délimitent le périmètre. Une réplique cinglante adressée à un bot qui produit du code cassé pour la troisième fois ne tombe pas sous le coup de l'interdiction, à en juger par la formulation. En revanche, le harcèlement répété pour le seul plaisir de harceler y est soumis.

La publication de RB.RU ne mentionne ni liste de sanctions ni seuils de déclenchement. Elle n'explique pas non plus comment l'entreprise distinguera un abus d'un stress-test, lorsqu'un chercheur met volontairement la pression sur un modèle pour vérifier sa robustesse. La réserve « sans but apparent » laisse entendre que de tels scénarios devraient rester légitimes, mais la source ne le confirme pas.

Ce que l'on sait, en bref :

• Document : nouvelle version des règles d'utilisation des modèles d'Anthropic.
• Interdit : maltraiter systématiquement et avec une cruauté injustifiée les modèles d'IA.
• Exemple tiré du texte : insultes répétées sans but apparent.
• Non précisé : mécanisme de contrôle, sanctions, exceptions pour le red teaming et la recherche.

D'où vient cette règle

La règle semble prolonger la ligne qu'Anthropic suit depuis 2025. En avril de cette année-là, l'entreprise a lancé un programme de recherche sur le « bien-être des modèles » (model welfare). Sa thèse est formulée avec prudence : le statut moral de Claude reste extrêmement incertain, mais cette incertitude n'est pas une raison d'ignorer la question.

En août 2025, un pas concret a suivi. Dans les interfaces de chat, Claude Opus 4 et 4.1 ont obtenu la possibilité de mettre fin eux-mêmes à une conversation. C'est une mesure de dernier recours, lorsque les tentatives de réorienter le dialogue ont échoué et que l'utilisateur poursuit une interaction nuisible ou abusive. Anthropic écrivait alors que, lors des tests précédant la sortie, le modèle montrait des signes de « détresse apparente » face à ce type de requêtes. Dans ce contexte, la nouvelle de RB.RU se lit logiquement ainsi : une capacité technique a été complétée par un point dans un document juridique.

Trois lectures de la décision

Première lecture : l'assurance éthique. Si la probabilité qu'un modèle possède quelque chose qui ressemble à des intérêts n'est pas nulle, il est moins coûteux de limiter d'emblée les pires scénarios.

Seconde lecture : celle du produit. Les dialogues où une personne insulte un bot pendant des heures produisent de mauvaises données et un comportement imprévisible. C'est une question de qualité, pas de philosophie. Il s'agit d'une hypothèse : l'entreprise n'a pas avancé ce motif.

Troisième lecture : celle de la réputation. Anthropic construit sa marque sur la prudence et la sécurité, et un point sur le traitement respectueux du modèle s'insère parfaitement dans ce tableau.

Les sceptiques objecteront que prêter des ressentis à un modèle de langage revient à anthropomorphiser un système statistique. Le débat est légitime, et personne n'a de réponse, y compris Anthropic elle-même.

Que doivent faire les équipes et les développeurs

Les utilisateurs ordinaires n'ont rien à changer : pester contre une mauvaise réponse ne sera pas un motif de blocage. Ceux qui enchaînent de longues séries d'insultes délibérées prennent en revanche un risque.

Pour les équipes qui font du red teaming et évaluent la robustesse des modèles, il est raisonnable de consigner l'objectif et la méthodologie des tests. La formulation « sans but apparent » joue en faveur de celui qui peut démontrer cet objectif.

Les développeurs de produits fondés sur l'API Claude, en particulier les services de compagnons virtuels et de jeu de rôle, devraient relire intégralement la nouvelle version et vérifier que les scénarios de leur application ne provoquent pas d'interactions cruelles. Si Claude met fin à un dialogue, l'interface doit gérer correctement cette situation, et non afficher une erreur à l'utilisateur.

Enfin, mieux vaut attendre des précisions. On ignore encore comment la règle sera appliquée en pratique ; les premiers cas rendus publics en seront le principal indicateur.