Les garde-fous d'OpenAI et d'Anthropic freinent les chercheurs en cybersécurité

Le 23 juillet 2026, TechCrunch a publié une enquête montrant que les garde-fous (guardrails) des modèles de langage d'OpenAI et d'Anthropic entravent le travail des chercheurs en cybersécurité offensive, ces spécialistes qui recherchent des vulnérabilités encore inconnues et développent des outils pour les exploiter.

Pourquoi les filtres d'IA gênent les pentesters

Les modèles d'OpenAI (ChatGPT) et d'Anthropic (Claude) refusent de plus en plus souvent d'aider sur des tâches de sécurité offensive, même lorsqu'un spécialiste « white hat » se trouve derrière le clavier. Selon TechCrunch, le média a interrogé plusieurs chercheurs qui traquent professionnellement les vulnérabilités zero-day et écrivent des exploits. Tous disent la même chose : les filtres traitent une tâche professionnelle légitime comme une tentative de piratage.

Le problème est qu'une requête du type « écris un code qui exploite cette vulnérabilité » a exactement le même aspect pour le modèle, quel que soit son auteur : la red team d'une entreprise ou un attaquant. Le modèle ne voit que le texte de la requête, ni l'intention ni le contrat de pentest.

• Média : TechCrunch, date de publication : 23 juillet 2026
• Modèles concernés : OpenAI (ChatGPT) et Anthropic (Claude)
• Personnes interrogées : des chercheurs en cybersécurité offensive (offensive security)
• Objet de la plainte : les guardrails refusent d'aider à la recherche de vulnérabilités et à l'écriture d'exploits

Les guardrails sont des règles de sécurité intégrées au modèle, qui bloquent les sorties potentiellement nuisibles : instructions pour fabriquer des armes, du code malveillant ou contourner des protections. OpenAI et Anthropic les présentent comme un élément clé d'une IA responsable, mais c'est précisément à la frontière avec la sécurité offensive que ces règles se déclenchent de façon trop large.

Où se situe le dilemme du double usage ?

La cybersécurité offensive est un cas d'école de technologie à double usage : les compétences et les outils qui protègent une infrastructure sont les mêmes que ceux qui la brisent. Une red team simule un attaquant pour trouver les failles avant l'adversaire réel, et elle a besoin pour cela exactement des mêmes exploits, de la même émulation de logiciels malveillants et des mêmes techniques de contournement des défenses.

Les guardrails d'OpenAI et d'Anthropic sont réglés pour bloquer précisément cette classe de requêtes, car les laboratoires ne peuvent pas distinguer à la volée un chercheur d'un criminel. Résultat, d'après TechCrunch : les spécialistes de la sécurité se heurtent à des refus là où, il y a encore un ou deux ans, le modèle les aidait volontiers, et ils doivent contourner les restrictions ou se tourner vers des outils moins encadrés.

Les garde-fous d'OpenAI et d'Anthropic entravent le travail des chercheurs en cybersécurité offensive : c'est ainsi que le problème est formulé dans l'article de

TechCrunch du 23 juillet 2026.

Quelles conséquences pour la défense ?

Des filtres trop serrés ne pénalisent pas seulement le camp des attaquants : ils ralentissent aussi la défense. Si une red team légale ne peut pas utiliser un modèle de premier plan pour son travail courant, elle perd en rapidité, et le modèle perd en utilité pour tout un segment professionnel. Selon TechCrunch, une partie des personnes interrogées se reporte sur des modèles open-weight en local ou sur des outils de sécurité très spécialisés, dépourvus de filtres d'entreprise, au prix d'une moindre qualité et d'un confort réduit.

Il en résulte un déséquilibre : les attaquants travaillent déjà avec des modèles sans restrictions (open-weight, versions « décensurées », services clandestins), alors que ce sont précisément ceux qui agissent légalement et sous contrat qui ont les mains liées. Selon la logique de l'article de TechCrunch, la prudence excessive d'OpenAI et d'Anthropic risque de sanctionner les chercheurs de bonne foi sans arrêter ceux de mauvaise foi.

Ce que cela signifie

Le débat sur les guardrails en sécurité offensive porte sur l'endroit où passe la frontière entre « sûr par défaut » et « inutile pour les professionnels ». Tant qu'OpenAI et Anthropic n'auront pas appris à distinguer un pentest légitime de la préparation d'une attaque, par exemple via la vérification des organisations ou des modes dédiés aux équipes de sécurité, les chercheurs choisiront les outils qui ne les bloquent pas.