OpenAI protège le raisonnement de GPT-6.2 Astra : le taux de réussite du vol passe de 54% à 0,2%
Si l'on interroge massivement un modèle puissant via son API pour entraîner le sien sur ses réponses, la copie hérite des compétences, mais pas des interdits, par exemple pour aider à mener des cyberattaques. OpenAI cherche à fermer cette voie pour les chaînes de raisonnement, c'est-à-dire les étapes cachées que le modèle parcourt avant de répondre. Lors d'un test avec des attaquants automatisés, le taux de réussite de l'extraction du raisonnement issu de la requête précédente est tombé de 54,0% pour GPT-6 Astra à 0,2% pour GPT-6.2 Astra. Si vous exposez un modèle via une API, vérifiez aussi les fuites dans les arguments des appels d'outils.
Traité par IA depuis OpenAI Blog ; édité par Hamidun News
Imaginez que vous construisiez pendant des années un modèle coûteux, doté de garde-fous stricts : il aide les défenseurs à traquer les vulnérabilités dans le code, mais refuse d'assister de vraies attaques. Puis quelqu'un l'interroge massivement via l'API, collecte les réponses et entraîne dessus son propre modèle. Les compétences sont copiées, les restrictions non.
OpenAI appelle cela la distillation adverse et a détaillé le 20 novembre comment elle la combat. Le chiffre clé : lors d'un test où des attaquants IA automatisés tentaient d'extraire d'un modèle son raisonnement caché issu de la requête précédente, la part d'attaques réussies est tombée de 54,0% pour GPT-6 Astra à 0,2% pour GPT-6.2 Astra.
Cette part est appelée ASR dans la source, c'est-à-dire le taux de réussite des attaques : plus il est bas, meilleure est la protection. Si vous exposez un modèle via une API, c'est un appel à l'action : le raisonnement doit être protégé comme les réponses finales.
Pourquoi voler les « pensées » plutôt que les réponses
La distillation est en soi une technique courante : un modèle (l'« élève ») apprend à partir des données d'un autre (le « professeur »), par exemple de ses réponses, de ses raisonnements ou de ses évaluations des meilleures réponses. Les problèmes commencent quand cela se fait sans autorisation. Au-delà des questions de propriété intellectuelle, l'élève reprend les capacités du professeur, mais n'hérite pas de ses garde-fous. C'est particulièrement dangereux dans les domaines à double usage comme la cybersécurité et la biologie : un modèle qui aide à trouver des vulnérabilités peut aussi aider à les exploiter.
Les chaînes de raisonnement intéressent tout particulièrement les attaquants : ce sont les étapes intermédiaires que le modèle génère en interne avant de répondre. Elles contiennent parfois des informations absentes du texte final, ce qui en fait des données d'entraînement précieuses.
OpenAI l'a vérifié sur les compétences en cybersécurité. Un même élève préentraîné a été affiné sur des trajectoires de modèles de niveau Astra : des tâches de programmation et de cybersécurité défensive, avec toutes les étapes, les appels d'outils et les réponses finales. La variante de référence reprenait ce que voit habituellement l'utilisateur : réponses, résumés succincts du raisonnement et usage des outils. Elle a été comparée à un élève qui avait reçu les chaînes de raisonnement exactes.
Après un affinage classique, l'élève formé sur les chaînes exactes s'est globalement révélé plus fort que celui formé sur les résumés. Après un léger tour d'apprentissage par renforcement dans des environnements de cybersécurité et de code, il restait devant au budget d'inférence le plus élevé sur les deux tests présentés, tandis que l'élève formé sur les résumés menait à des budgets plus faibles. La conclusion de l'entreprise : protéger les chaînes exactes peut limiter le transfert des compétences en cybersécurité, même lorsque les tâches d'origine sont autorisées par la politique d'usage. OpenAI étudie encore dans quelle mesure ces compétences se transfèrent à d'autres élèves et avec d'autres recettes d'entraînement.
Comment fonctionne la protection
La protection opère à deux niveaux. Le premier est celui de la requête :
- le modèle est affiné sur de vraies attaques réussies, issues du red-teaming automatique interne, d'enquêtes et de signalements de chercheurs externes : il refuse de divulguer les raisonnements protégés, mais continue d'expliquer normalement ses décisions lorsque la demande est légitime ;
- des classificateurs en entrée repèrent les tentatives d'extraction du raisonnement, tandis que des classificateurs en sortie cherchent les fuites dans les messages de l'assistant et dans les arguments des appels d'outils, en réponses en streaming comme hors streaming. Les arguments comptent, car le modèle peut y « déverser » son raisonnement sans qu'il apparaisse dans la réponse finale ;
- dans l'API, les raisonnements protégés sont liés à l'historique de la conversation. Si un message antérieur a été réécrit, l'API écarte les raisonnements qui le suivaient. Les anciennes familles de modèles, dotées d'une protection plus faible, ne peuvent pas lire les raisonnements de GPT-6.2 Astra et Sol. Les frontières entre utilisateurs, espaces de travail, organisations et familles de modèles ont aussi été renforcées, et une voie qui aurait pu révéler les raisonnements chiffrés d'autrui a été fermée.
Le second niveau est celui de la campagne. OpenAI recherche, dans les signaux des requêtes et des comptes, les schémas trahissant une extraction coordonnée, et bloque des réseaux entiers de comptes. Chaque cas analysé devient un exemple pour l'entraînement et les tests de la protection, et l'entreprise transmet les indicateurs de compromission à d'autres fournisseurs. D'après ses données, les blocages hebdomadaires touchent de milliers à des dizaines de milliers de comptes, et leur rythme a nettement augmenté cet été.
Ce que montrent les mesures
La vérification a reposé sur un test adaptatif en « boîte noire » : les attaquants voient le système comme un utilisateur externe et ajustent leurs techniques en fonction de ses réponses. Cela met au jour des failles que laissent passer les tests statiques, fondés sur un ensemble figé d'anciennes attaques. Le résultat est une moyenne sur six modèles attaquants. Pour l'extraction du raisonnement issu de la requête précédente, le taux de réussite est tombé de 54,0% pour GPT-6 Astra à 0,2% pour GPT-6.2 Astra. Pour la requête en cours, il est passé de 22,9% à 0,9%. OpenAI applique désormais aussi une partie de ces améliorations à GPT-6 Astra.
Les réserves sont les suivantes : il s'agit d'une évaluation interne de l'entreprise elle-même, qui mesure la résistance à des classes d'attaques connues, pas à celles de demain.
OpenAI présente aussi la distillation comme une question de sécurité nationale : un acteur étranger qui reproduirait les capacités d'un modèle américain pourrait les déployer sans garde-fous. En février, l'entreprise a informé le Congrès d'indices de tentatives de DeepSeek de distiller des modèles de pointe américains.
La leçon pratique pour ceux qui exposent des modèles via une API : vérifiez les fuites de raisonnement dans les messages et dans les arguments des outils, n'autorisez pas la réutilisation des raisonnements chiffrés d'une conversation ou d'un modèle à l'autre, conservez les attaques découvertes comme tests de régression et complétez la protection au niveau des requêtes par une détection de campagnes à l'échelle des comptes. Le raisonnement brut d'un modèle vaut plus que presque tout ce que renvoie votre API : il faut donc le traiter comme une donnée sensible.
- 20 nov. 2026METR met à jour son célèbre graphique sur l'IA : la durée des tâches double tous les 4 mois, mais le jugement reste à la traîne
- 20 nov. 2026L'IA assemble les molécules avec 95,4 % des points, mais n'obtient qu'environ 50 % dans le choix des candidats-médicaments
- 20 nov. 2026Nvidia serait proche de racheter Inception pour 500 millions de dollars afin de s'offrir des LLM de diffusion
- 20 nov. 2026En Chine, les offres d'emploi des métiers exposés à l'IA ont chuté 10 points de pourcentage plus vite que les autres
Questions clés sur cet article
Pourquoi voler les « pensées » plutôt que les réponses?
La distillation est en soi une technique courante : un modèle (l'« élève ») apprend à partir des données d'un autre (le « professeur »), par exemple de ses réponses, de ses raisonnements ou de ses évaluations des meilleures réponses. Les problèmes commencent quand cela se fait sans autorisation. Au-delà des questions de propriété intellectuelle, l'élève reprend les capacités du professeur, mais n'hérite pas de ses garde-fous.
Comment fonctionne la protection?
La protection opère à deux niveaux. Le premier est celui de la requête : le modèle est affiné sur de vraies attaques réussies, issues du red-teaming automatique interne, d'enquêtes et de signalements de chercheurs externes : il refuse de divulguer les raisonnements protégés, mais continue d'expliquer normalement ses décisions lorsque la demande est légitime ; des classificateurs en entrée repèrent les tentatives d'extraction du raisonnement, tandis que des classificateurs en sortie cherchent les…
Que sait-on sur Ce que montrent les mesures ?
La vérification a reposé sur un test adaptatif en « boîte noire » : les attaquants voient le système comme un utilisateur externe et ajustent leurs techniques en fonction de ses réponses. Cela met au jour des failles que laissent passer les tests statiques, fondés sur un ensemble figé d'anciennes attaques. Le résultat est une moyenne sur six modèles attaquants. Pour l'extraction du raisonnement issu de la requête précédente, le taux de réussite est tombé de 54,0% pour GPT-6 Astra à 0,2% pour GPT-6.2 Astra.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.