Anthropic interdit la cruauté envers Claude, un développeur crée un filtre à grossièretés pour ses prompts

Le 8 octobre, Anthropic a mis à jour les règles d'utilisation de ses modèles. Parmi les changements figure un point étonnant pour des conditions d'utilisation : la « cruauté systématique et gratuite » envers les modèles est désormais interdite. Un auteur de Habr qui écrit sur Claude Code l'a remarqué en préparant un article d'actualité. Son propre skill Prompt Warrior analyse les logs de ses échanges avec l'agent et relève des grossièretés dans presque un message sur deux. Il en a tiré une conclusion d'ingénieur : plutôt que de changer ses habitudes, il a écrit un outil qui réécrit automatiquement le texte de ses prompts. Le résultat est une sorte de Punto Switcher pour les requêtes adressées à l'IA.

Ce qui a changé dans les règles

D'après le titre de l'article de TechCrunch, la mise à jour touche deux volets : l'abus du modèle (model abuse) et l'ingérence dans les élections. Le texte complet de la politique n'est pas reproduit dans la source ; les critères de « systématicité » et de « gratuité » restent donc au niveau de la formulation. La logique, elle, se lit assez bien. Il ne s'agit pas de sanctionner une réplique excédée, lorsque l'agent écrit « terminé » pour la dixième fois par-dessus un code qui ne fonctionne pas. Il s'agit de punir un acharnement répété et sans objet.

C'est le prolongement d'une ligne qu'Anthropic suit depuis longtemps. L'entreprise mène des recherches sur le model welfare et, en août 2025, a donné à certaines versions de Claude la possibilité de mettre fin à une conversation en cas de comportement abusif persistant de l'utilisateur. Cette approche est désormais inscrite aussi dans un document juridique.

Comment fonctionne le réécriveur

L'auteur part d'un problème pratique. S'il jure, ce n'est pas pour maltraiter la machine : c'est une réaction émotionnelle face à un agent qui annonce un succès sans avoir rien vérifié. Beaucoup de gens qui travaillent chaque jour avec des agents de code se comportent ainsi. L'idée de la solution est simple : une couche entre l'humain et le modèle, qui adoucit les formulations avant l'envoi, comme un changeur de disposition de clavier corrige le texte à la volée.

Ce que l'on sait de l'annonce :

• date de modification des règles d'Anthropic : 8 octobre 2026 ;
• objet de l'interdiction : la cruauté systématique et gratuite envers les modèles ;
• outil de statistiques : le skill Prompt Warrior, qui analyse les logs des échanges avec l'agent ;
• résultat de la mesure : des grossièretés dans presque un message sur deux ;
• agent ciblé : Claude Code ;
• approche : remplacement automatique du texte plutôt que changement de comportement.

Les détails d'implémentation ne sont pas divulgués dans l'extrait disponible : on ignore si l'outil repose sur des règles, un dictionnaire ou un modèle distinct, et avec quelle fidélité il préserve le sens. Il ne sera possible d'évaluer sa qualité qu'à la lecture de l'article complet.

Ce schéma a un inconvénient évident. La charge émotionnelle d'un prompt porte un signal : « tu as fait autre chose que ce qui était demandé, et c'est important ». Si le filtre réduit la réplique à une formulation neutre, l'agent peut moins bien comprendre que l'erreur est critique. Un bon réécriveur doit supprimer les injures, mais conserver l'exigence.

Comment éviter les ennuis

Pour ceux qui travaillent beaucoup avec des agents, la conclusion pratique est plus modeste qu'il n'y paraît.

Premièrement, une réplique grossière isolée n'est pas, d'après la formulation, la cible de la règle. L'interdiction décrit un caractère systématique et gratuit. Un « mais qu'est-ce que tu fabriques ? » ponctuel n'a rien de dramatique.

Deuxièmement, si vos messages contiennent des grossièretés une fois sur deux, c'est une raison d'examiner votre processus, pas seulement votre vocabulaire. La cause d'irritation la plus fréquente : l'agent clôt la tâche sans vérification. Le remède n'est pas un filtre, mais une exigence dans les instructions du projet : lancer les tests et afficher leur sortie avant de dire « terminé ».

Troisièmement, un filtre côté client se justifie comme mesure d'hygiène. Il coûte peu et ne perturbe pas le flux de travail. Mais on ne peut pas s'y fier comme garantie de conformité à la politique : la manière dont Anthropic repérera les violations et ce qu'elle considérera comme systématique, l'entreprise ne l'explique pas encore en détail.

Un effet secondaire intéressant : on dispose désormais d'une métrique mesurable de la façon dont nous parlons à l'IA. Si vous avez déjà des logs, calculer votre part de grossièretés prend une soirée. Le résultat pourrait vous surprendre.