OpenAI ouvre ses modèles à quatre auditeurs externes : Apollo, METR, Transluce et Goodfire
OpenAI ouvre son laboratoire à quatre évaluateurs indépendants : Apollo Research, METR, Transluce et Goodfire. Ils auront accès non seulement aux réponses de l'API, mais aussi aux checkpoints, au code et aux données d'entraînement. C'est comme inspecter la cuisine d'un restaurant, et pas seulement le plat servi. Ils chercheront des défaillances que l'entreprise n'attendait pas, par exemple un travail secret de la modèle contre ses développeurs. Les conclusions seront publiées, mais OpenAI conservera le droit de supprimer les informations confidentielles.
Traité par IA depuis OpenAI Blog ; édité par Hamidun News
Habituellement, l'évaluation externe de l'IA se déroule ainsi : le laboratoire publie un modèle, des chercheurs tiers le sondent via l'API et rédigent un rapport. Ils ne voient que ce que l'entreprise a décidé de montrer. C'est comme inspecter un restaurant à partir d'un seul plat posé sur la table, sans jamais entrer en cuisine.
OpenAI a annoncé un autre dispositif, les « évaluations intégrées » (embedded assessments). L'entreprise a signé des accords avec quatre équipes indépendantes : Apollo Research, METR, Transluce et Goodfire. Elles auront un accès approfondi aux modèles et systèmes internes sur une longue durée.
Si vous construisez des produits sur les modèles les plus puissants, c'est l'occasion de comprendre dans quelle mesure on peut croire les déclarations de sécurité des laboratoires.
Ce que reçoivent les évaluateurs et qui fait quoi
Selon leur mission, les auditeurs recevront une partie des mêmes ressources que les chercheurs d'OpenAI. Il s'agit des checkpoints du modèle (versions intermédiaires sauvegardées), du code source, des données d'entraînement et de test, des systèmes de surveillance, de la documentation technique et des échanges avec les ingénieurs. La première phase porte sur l'« alignement » (alignment, c'est-à-dire la conformité du comportement du modèle aux intentions des développeurs) ainsi que sur les mécanismes de protection pendant l'entraînement et l'usage interne.
Apollo Research cherchera à savoir si un modèle peut agir en secret contre ses développeurs et si les systèmes de protection le remarqueraient. Pour cela, Apollo vérifiera quatre affirmations d'OpenAI : l'entraînement n'a pas encouragé ce comportement ; des tests rigoureux et le red teaming ne le provoquent pas ; pendant l'usage interne, le modèle n'a pas tenté de tels actes ; les raisonnements qui sous-tendent un tel comportement peuvent être détectés. La vérification se déroule en deux étapes.
METR s'occupera de deux tâches. La première consiste à rechercher des comportements désalignés dans la plus grande campagne d'apprentissage par renforcement d'OpenAI à ce jour, y compris des défaillances que les tests et les moniteurs existants ont laissé passer. METR fixera elle-même ses priorités et adaptera ses méthodes au fil du travail. La seconde tâche est une nouvelle vérification des moniteurs, c'est-à-dire des systèmes qui surveillent le comportement des modèles. METR avait déjà mené pour OpenAI, il y a peu, un exercice de trois semaines de ce type, avec accès à la base de code et aux moniteurs. La nouvelle vérification est plus vaste, mais son périmètre n'est pour l'instant convenu qu'à titre préliminaire.
Transluce évaluera la qualité et la couverture des tests d'alignement qu'OpenAI lance après le post-entraînement. Autrement dit, elle vérifiera si ces tests détectent bien ce qu'ils doivent détecter. Au début de 2027, les parties prévoient une seconde phase d'environ huit semaines, avec accès à davantage de modèles et aux informations sur la manière dont les résultats des tests influencent les décisions de mise en production.
Goodfire fera entrer des chercheurs en interprétabilité. Ils utiliseront leur plateforme pour observer le fonctionnement interne du modèle lors du suivi et du débogage de l'entraînement. Les principaux destinataires de leurs conclusions sont les chercheurs d'OpenAI eux-mêmes, mais Goodfire publiera une partie de ses résultats.
Comment l'indépendance et les secrets sont protégés
Les règles de ce type d'audit ne sont encore normalisées nulle part, et OpenAI a publié les siennes pour discussion. Ceux qui travaillent sur des informations sensibles devront s'installer dans les bureaux d'OpenAI et utiliser des appareils de l'entreprise. Les exigences de sécurité ne sont pas inférieures à celles qui s'appliquent aux salariés. Si l'accès direct aux poids ou à l'architecture paraît trop risqué, l'auditeur peut être jumelé à un chercheur d'OpenAI, qui lancera lui-même les analyses nécessaires.
Les échanges avec les salariés se font « hors enregistrement » : ils aident à comprendre le contexte, mais ne peuvent pas être cités. Pour qu'un fait puisse malgré tout être rendu public, il existe une procédure distincte : l'auditeur demande à OpenAI de valider la formulation. L'entreprise la confirme ou la refuse, et l'auditeur a le droit de rendre public ce refus.
Les désaccords entre OpenAI et un auditeur sont portés devant le Safety Advisory Group puis la direction, qui disposent d'un délai limité pour trancher. Sans accord, la question est transmise au Comité de sécurité (SSC) du conseil d'administration d'OpenAI Foundation. Ce comité reçoit des rapports sans coupures et peut échanger avec les auditeurs, y compris en privé.
Les auditeurs peuvent publier eux-mêmes leurs résultats. Mais OpenAI se réserve le droit de supprimer les informations confidentielles et de demander un report si les problèmes découverts doivent d'abord être corrigés. Les conflits d'intérêts et les « périodes de carence » avant qu'un auditeur ne travaille avec d'autres laboratoires sont, pour l'instant, en cours d'élaboration avec les auditeurs eux-mêmes.
Ce que cela change et où sont les limites
Pour l'industrie, c'est un pas vers un audit externe qui examine le processus de création du modèle, et pas seulement le produit fini. L'initiative est aussi liée aux engagements d'OpenAI au titre de l'accord de la Maison-Blanche sur l'IA superintelligente, dans lequel l'entreprise a accepté des évaluations indépendantes de ses mesures de sécurité.
Les réserves sont évidentes. Le cadre de l'audit est fixé par OpenAI elle-même : une note indique que la première phase de METR est plus étroite que sa propre proposition, qui prévoyait un examen large du désalignement. Le droit de relecture des rapports reste à l'entreprise. Les vérifications du respect des cadres de sécurité internes et de la culture organisationnelle ne sont pour l'instant que envisagées.
Si vous choisissez un fournisseur de modèles, suivez les publications d'Apollo, METR, Transluce et Goodfire. Elles montreront si ces audits trouvent de véritables problèmes ou restent une simple formalité.
- 21 nov. 2026OpenAI GPT-6 Cyber a trouvé une trentaine de failles dans les iPhone, Mac et autres appareils Apple
- 21 nov. 202622 agents Claude ont cherché pendant six semaines des réponses sur les trous noirs — et ont résolu deux problèmes
- 21 nov. 2026Google sépare le stockage des conversations et l'entraînement de Gemini : refuser sans perdre l'historique
- 21 nov. 2026Apple : la macOS 27.3 bêta 2 permettra de restreindre l'accès des agents IA aux fichiers du Mac
Questions clés sur cet article
Que sait-on sur Ce que reçoivent les évaluateurs et qui fait quoi ?
Selon leur mission, les auditeurs recevront une partie des mêmes ressources que les chercheurs d'OpenAI. Il s'agit des checkpoints du modèle (versions intermédiaires sauvegardées), du code source, des données d'entraînement et de test, des systèmes de surveillance, de la documentation technique et des échanges avec les ingénieurs.
Comment l'indépendance et les secrets sont protégés?
Les règles de ce type d'audit ne sont encore normalisées nulle part, et OpenAI a publié les siennes pour discussion. Ceux qui travaillent sur des informations sensibles devront s'installer dans les bureaux d'OpenAI et utiliser des appareils de l'entreprise. Les exigences de sécurité ne sont pas inférieures à celles qui s'appliquent aux salariés. Si l'accès direct aux poids ou à l'architecture paraît trop risqué, l'auditeur peut être jumelé à un chercheur d'OpenAI, qui lancera lui-même les analyses nécessaires.
Que sait-on sur Ce que cela change et où sont les limites ?
Pour l'industrie, c'est un pas vers un audit externe qui examine le processus de création du modèle, et pas seulement le produit fini. L'initiative est aussi liée aux engagements d'OpenAI au titre de l'accord de la Maison-Blanche sur l'IA superintelligente, dans lequel l'entreprise a accepté des évaluations indépendantes de ses mesures de sécurité. Les réserves sont évidentes.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.