Ограничения ИИ от OpenAI и Anthropic мешают исследователям кибербезопасности

Le 23 juillet 2026, TechCrunch a publié un article expliquant que les garde-fous (guardrails) des modèles de langage d'OpenAI et d'Anthropic gênent le travail des chercheurs en cybersécurité offensive — des spécialistes qui recherchent des vulnérabilités encore inconnues et développent des outils pour les exploiter.

Pourquoi les filtres de l'IA gênent les pentesters

Les modèles d'OpenAI (ChatGPT) et d'Anthropic (Claude) refusent de plus en plus souvent d'aider sur des tâches de sécurité offensive, même lorsque c'est un spécialiste « chapeau blanc » qui est au clavier. Selon TechCrunch, le média a interrogé plusieurs chercheurs qui recherchent professionnellement des vulnérabilités zero-day et écrivent des exploits — et tous disent la même chose : les filtres se déclenchent face à une tâche de travail légitime comme s'il s'agissait d'une tentative d'intrusion.

Le problème, c'est qu'une requête du type « écris un code qui exploite cette vulnérabilité » se présente de la même façon pour le modèle, quel que soit l'expéditeur : l'équipe red team d'une entreprise ou un attaquant. Le modèle ne voit que le texte de la requête, pas l'intention ni le contrat de pentest qui la sous-tend.

• Média — TechCrunch, date de publication — 23 juillet 2026
• Modèles concernés — OpenAI (ChatGPT) et Anthropic (Claude)
• Qui a été interrogé — des chercheurs en cybersécurité offensive (offensive security)
• L'essentiel du reproche — les guardrails refusent d'aider à la recherche de vulnérabilités et à l'écriture d'exploits

Les guardrails sont des règles de sécurité intégrées au modèle qui bloquent une production potentiellement nuisible : instructions pour fabriquer des armes, du code malveillant, ou des moyens de contourner des défenses. OpenAI et Anthropic les présentent comme un élément clé d'une IA responsable, mais c'est précisément à la frontière avec la sécurité offensive que ces règles se déclenchent de façon trop large.

En quoi consiste le dilemme du double usage

La cybersécurité offensive est un exemple classique de technologie à double usage : les mêmes compétences et outils qui protègent une infrastructure peuvent aussi la casser. Une red team imite un attaquant pour trouver les failles avant un véritable adversaire — et pour cela, elle a besoin exactement des mêmes exploits, de la même émulation de logiciels malveillants et des mêmes techniques de contournement des défenses.

Les guardrails d'OpenAI et d'Anthropic sont réglés pour bloquer précisément cette catégorie de requêtes, car les laboratoires ne peuvent pas distinguer à la volée un chercheur d'un criminel. Résultat, comme le décrit TechCrunch : les professionnels de la sécurité se heurtent à des refus là où, il y a un ou deux ans encore, le modèle aidait volontiers, et se voient contraints de contourner les restrictions ou de se tourner vers des outils moins réglementés.

Les garde-fous d'OpenAI et d'Anthropic gênent le travail des chercheurs en cybersécurité offensive — c'est ainsi que l'essentiel du problème est formulé dans l'article de

TechCrunch du 23 juillet 2026.

En quoi cela menace la défense

Des filtres trop serrés ne pénalisent pas seulement le camp attaquant — ils ralentissent aussi la défense. Si une red team légitime ne peut pas utiliser un modèle de premier plan pour son travail de routine, elle perd en rapidité, et le modèle lui-même perd en utilité pour tout un segment professionnel. Selon TechCrunch, une partie des personnes interrogées se tourne vers des modèles locaux open-weight ou vers des outils de sécurité très spécialisés dépourvus de filtres d'entreprise — au prix de la qualité et du confort d'usage.

Un déséquilibre apparaît alors : les attaquants travaillent déjà avec des modèles sans restrictions (versions open-weight, builds « décensurés », services clandestins), tandis que ce sont justement ceux qui agissent légalement et sous contrat qui se retrouvent pieds et poings liés. Selon la logique de l'article de TechCrunch, la prudence excessive d'OpenAI et d'Anthropic risque de pénaliser les chercheurs de bonne foi sans arrêter ceux de mauvaise foi.

Ce que cela signifie

Le débat sur les guardrails en sécurité offensive est un débat sur l'endroit où passe la frontière entre « sûr par défaut » et « inutile pour les professionnels ». Tant qu'OpenAI et Anthropic n'apprendront pas à distinguer un pentest légitime de la préparation d'une attaque — par exemple via une vérification des organisations ou des modes spéciaux pour les équipes de sécurité —, les chercheurs continueront de choisir les outils qui ne les bloquent pas.