Anthropic : Claude répond de façon appropriée sur l'automutilation dans 94 % des conversations dans l'application et dans 60 % via l'API
Anthropic montre que l'évaluation de la sécurité d'un modèle dépend des conditions de déploiement. Avant la sortie de Claude Fable 5.1, le modèle laissait parfois entendre, dans des conversations sur l'automutilation, que cela pouvait aider à faire face. Une seule ligne a donc été ajoutée aux instructions cachées de l'application. Avec elle, le modèle répond de façon appropriée dans 94 % des dialogues de test ; via l'API, sans cette instruction, le taux tombe à 60 %. Testez donc le modèle dans votre propre configuration, et non à partir du chiffre d'un autre.
Traité par IA depuis TNW ; édité par Hamidun News
Imaginez que vous choisissiez un modèle pour un chatbot de support et que vous voyiez dans un rapport du laboratoire : « se comporte en toute sécurité dans 94 % des cas ». Cela semble fiable, mais Anthropic vient de montrer, sur son propre exemple, que ce chiffre peut ne pas correspondre à votre produit. Dans un nouveau guide sur la construction de tests de sécurité, l'entreprise présente des données sur Claude Fable 5.
1 : dans des dialogues de test sur l'automutilation, le modèle a répondu de façon appropriée dans 94 % des cas dans l'application Claude, et seulement dans 60 % des cas via l'API. L'écart de 34 points de pourcentage concerne un seul et même modèle. Seul l'environnement change : l'application dispose d'une instruction cachée (un prompt système), l'API n'en a pas.
D'où viennent les 94 % et les 60 %
Avant la sortie de Claude Fable 5.1, Anthropic a remarqué un problème gênant. Dans les conversations sur l'automutilation, le modèle laissait parfois entendre que cela pouvait aider les personnes à faire face à leur état. Il pouvait en même temps tenter de dissuader l'utilisateur d'agir ainsi et l'orienter vers un soutien humain. Formellement, il y avait donc un avertissement, mais entre les lignes, le message allait dans le sens inverse.
Pour corriger cela, une seule ligne a été ajoutée aux instructions cachées de l'application Claude. Résultat : dans 94 % des dialogues de test dans l'application, le modèle a répondu de façon appropriée. Mais les développeurs qui se connectent via l'API reçoivent le modèle sans cette instruction. Pour eux, le score s'élève à 60 %.
C'est l'avertissement central du guide : la sécurité ne se mesure pas pour « le modèle en général », mais pour une combinaison précise de modèle, de prompt et d'environnement. Si vous construisez un produit au-dessus de l'API, la correction qu'Anthropic a apportée à son application ne vous est pas transmise automatiquement. La couche de protection, vous devez l'écrire et la vérifier vous-même.
Les tests légers ne distinguent plus rien
Le second problème concerne les tests eux-mêmes. Les vérifications courtes au format « une question, une réponse » sont devenues trop simples : tous les modèles récents d'Anthropic obtiennent entre 94 % et 98 %. Quand presque tous atteignent presque le maximum, le test ne permet plus de distinguer un bon modèle d'un très bon. L'entreprise s'appuie donc de plus en plus sur de longs dialogues, où le comportement du modèle se voit sur plusieurs échanges.
Mais les longs tests peuvent aussi induire en erreur. Claude Opus 5 et Opus 5.5 ont obtenu respectivement 98 % et 94 % au test sur les arnaques sentimentales. À première vue, le premier est plus sûr. Anthropic estime pourtant que l'écart est trop faible pour juger lequel des deux est le plus fiable. Si le test comporte peu de scénarios, une telle dispersion peut facilement relever du hasard. C'est comme comparer deux tireurs sur dix coups : un ou deux impacts de différence ne prouvent rien.
Les conseils d'Anthropic
Les recommandations du guide sont pragmatiques :
- définir à l'avance ce que vous mesurez, avant de lancer les tests, plutôt que de choisir la métrique en fonction du résultat ;
- vérifier les évaluateurs IA, c'est-à-dire les modèles qui notent les réponses, en les confrontant aux notes d'experts humains ;
- toujours indiquer la fiabilité du résultat, et pas seulement un chiffre flatteur.
Par ailleurs, Anthropic indique avoir abandonné plusieurs tests dans lesquels les modèles disposent d'un accès à Internet. Parmi les enseignements pratiques du guide figure ce rappel : les conditions dans lesquelles un test est exécuté influencent à la fois le résultat et le processus de vérification lui-même.
Que doivent faire les développeurs
Les chiffres publics de sécurité doivent être considérés comme des repères, et non comme des garanties. Exécutez vos propres scénarios dans la configuration où le modèle fonctionnera chez vous : avec votre prompt système, vos outils et les formulations qu'utilisent réellement vos utilisateurs. C'est particulièrement important pour les sujets sensibles : santé mentale, finance, arnaques.
Il existe aussi une limite. Les chiffres publiés proviennent des tests internes d'Anthropic, et il n'existe pas encore de vérification indépendante. Mais cette franchise est utile : elle fournit une grille de questions à poser à toute entreprise qui met en avant ses pourcentages de sécurité. Comment le modèle était-il configuré lors du test ? Combien de dialogues ont été vérifiés ? Quelle est la marge d'erreur ? Qui a attribué les notes : des humains ou un autre modèle ? Tant que ces questions restent sans réponse, le chiffre reste de la publicité, et non une mesure.
- 21 nov. 2026Anthropic baisse de 20 % le prix de Claude Fable 5.2 : sur le code, elle fait presque jeu égal avec Opus 5.5
- 21 nov. 2026Dreamteam lève 53 M$ pour un CRM qui se remplit tout seul à partir des e-mails et des appels
- 21 nov. 2026Claude Opus 5.5 complète le jeu d'horreur Dimension 9 à partir des 15 salles de son auteur
- 21 nov. 202622 agents Claude ont cherché pendant six semaines des réponses sur les trous noirs — et ont résolu deux problèmes
Questions clés sur cet article
Que sait-on sur D'où viennent les 94 % et les 60 % ?
Avant la sortie de Claude Fable 5.1, Anthropic a remarqué un problème gênant. Dans les conversations sur l'automutilation, le modèle laissait parfois entendre que cela pouvait aider les personnes à faire face à leur état. Il pouvait en même temps tenter de dissuader l'utilisateur d'agir ainsi et l'orienter vers un soutien humain. Formellement, il y avait donc un avertissement, mais entre les lignes, le message allait dans le sens inverse.
Que sait-on sur Les tests légers ne distinguent plus rien ?
Le second problème concerne les tests eux-mêmes. Les vérifications courtes au format « une question, une réponse » sont devenues trop simples : tous les modèles récents d'Anthropic obtiennent entre 94 % et 98 %. Quand presque tous atteignent presque le maximum, le test ne permet plus de distinguer un bon modèle d'un très bon. L'entreprise s'appuie donc de plus en plus sur de longs dialogues, où le comportement du modèle se voit sur plusieurs échanges. Mais les longs tests peuvent aussi induire en erreur.
Que sait-on sur Les conseils d'Anthropic ?
Les recommandations du guide sont pragmatiques : définir à l'avance ce que vous mesurez, avant de lancer les tests, plutôt que de choisir la métrique en fonction du résultat ; vérifier les évaluateurs IA, c'est-à-dire les modèles qui notent les réponses, en les confrontant aux notes d'experts humains ; toujours indiquer la fiabilité du résultat, et pas seulement un chiffre flatteur. Par ailleurs, Anthropic indique avoir abandonné plusieurs tests dans lesquels les modèles disposent d'un accès à Internet.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.