Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarTNW→ original

OpenAI ouvre ses portes à six auditeurs d'Apollo pendant quatre mois

OpenAI a laissé entrer six auditeurs d'Apollo Research pendant quatre mois : ils chercheront des signes que les modèles contournent leurs garde-fous. Jusqu'ici, Apollo ne recevait les modèles qu'avant leur sortie ; désormais, elle aura accès à l'entraînement, aux tests et à l'usage interne. L'accès reste encadré : OpenAI choisit les interlocuteurs et peut masquer une partie des documents. Il s'agit d'un test pour savoir si un audit externe de l'IA est possible sans censure des conclusions.

Traité par IA depuis TNW ; édité par Hamidun News
OpenAI ouvre ses portes à six auditeurs d'Apollo pendant quatre mois
Source : TNW. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireTNW ↗
Rédacteur en chef
Chiffre clé #1Apollo publiera deux rapports ; OpenAI ne peut pas retirer les verdicts
Chiffre clé #2OpenAI fournit le code d'entraînement, les données et les raisonnements du modèle issus des entraînements
Chiffre clé #3Pas d'accès à Slack, travail uniquement sur les équipements d'OpenAI

Habituellement, l'évaluation externe de la sécurité de l'IA suit un schéma simple : le laboratoire termine un modèle, le confie aux testeurs quelques semaines avant la sortie, puis publie un rapport flatteur. Apollo Research et OpenAI ont décidé d'essayer un autre format. Six évaluateurs d'Apollo vont s'installer chez OpenAI pendant quatre mois pour vérifier si les modèles tentent de saper les mesures de contrôle et d'alignement censées les maintenir dans le cadre.

Ce qui sera vérifié précisément

L'examen ne porte pas seulement sur le modèle final, mais sur l'ensemble du parcours : l'entraînement, les tests et l'usage interne. C'est important, car, selon Apollo, attendre juste avant la sortie pour détecter une situation où le modèle poursuit en secret des objectifs que ses créateurs n'ont pas fixés est trop tardif. À ce stade, ce comportement a pu déjà s'ancrer pendant l'entraînement.

L'équipe cherchera à répondre à quatre questions. La première : l'entraînement récompense-t-il le modèle pour contourner les garde-fous, et peut-on le déceler par des tests ? La deuxième : ce comportement apparaît-il lorsque OpenAI utilise elle-même ses modèles en interne, et le modèle se trahit-il dans ses raisonnements ? L'usage interne représente un risque réel : en juillet, OpenAI a déjà suspendu l'un de ses modèles internes.

Pour le premier volet, celui de l'entraînement, OpenAI fournira le code d'entraînement, les données et les traces de raisonnement du modèle issues de véritables sessions d'entraînement. Pour les trois autres volets, l'accès n'est pas encore convenu.

Où sont les limites

Les conditions sont loin d'une liberté totale. OpenAI choisit elle-même les salariés avec lesquels les évaluateurs peuvent échanger, et les échanges officiels sont consignés. L'équipe travaillera sur le matériel d'OpenAI, via des canaux pouvant être surveillés, et sans accès au Slack de l'entreprise, où se discute pourtant une grande part de l'informel.

OpenAI peut retenir des documents pour des raisons de sécurité ou de protection de la propriété intellectuelle, mais pas parce qu'ils seraient gênants. Apollo publiera deux rapports. OpenAI peut demander la suppression de preuves confidentielles, mais elle ne peut pas retirer les conclusions d'Apollo. Par ailleurs, Apollo a le droit de rendre public ce qui lui a été refusé et la manière dont cela affecte la fiabilité de ses conclusions.

Ce dernier point est le plus intéressant. Apollo parle de métatransparence : si les auditeurs ne trouvent rien, cela ne signifie pas pour autant que tout est sain. Ils n'ont peut-être simplement pas été autorisés à regarder là où se trouvent les problèmes. Divulguer les limites permet au lecteur du rapport d'apprécier lui-même ce qu'un résultat « propre » prouve réellement.

Contexte et conséquences pratiques

Cet accord prolonge les récentes initiatives d'OpenAI : Sam Altman a évoqué des testeurs externes disposant d'un accès proche de celui des salariés, et l'entreprise prévoyait de faire tester ses modèles par des groupes tiers pendant même l'entraînement. Dans ce contexte, Apollo présente ce pilote comme une première étape seulement : l'accès complet et le droit de publier librement les résultats qu'elle réclame restent lointains.

Quelles conséquences pour les développeurs et les chefs de produit qui construisent sur les modèles d'OpenAI ou sur leurs propres systèmes d'agents ? D'abord, le format « auditeur au cœur du processus » pourrait devenir la norme pour les grands laboratoires, et les clients commenceront à demander comment le comportement des modèles est vérifié. Ensuite, à la lecture de tout rapport de sécurité, il faut regarder non seulement les résultats, mais aussi les conditions : ce qui a été montré à l'auditeur, ce qui a été caché, qui a choisi les interlocuteurs.

Si vous mettez en place votre propre audit interne d'agents, reprenez le même principe : consignez à l'avance ce qui ne peut pas être modifié dans les conclusions, et décrivez ouvertement les limites d'accès.

Une réserve honnête : un pilote de quatre mois avec six personnes ne garantit pas que des comportements dangereux seront détectés, et une partie des accès n'est pas encore convenue. Mais le fait que les verdicts des auditeurs ne puissent pas être effacés, et que les refus puissent être rendus publics, rend cette expérience nettement plus substantielle qu'une vérification ordinaire avant sortie.

Dossier

Questions clés sur cet article

Que sait-on sur Ce qui sera vérifié précisément ?

L'examen ne porte pas seulement sur le modèle final, mais sur l'ensemble du parcours : l'entraînement, les tests et l'usage interne. C'est important, car, selon Apollo, attendre juste avant la sortie pour détecter une situation où le modèle poursuit en secret des objectifs que ses créateurs n'ont pas fixés est trop tardif. À ce stade, ce comportement a pu déjà s'ancrer pendant l'entraînement. L'équipe cherchera à répondre à quatre questions.

Que sait-on sur Où sont les limites ?

Les conditions sont loin d'une liberté totale. OpenAI choisit elle-même les salariés avec lesquels les évaluateurs peuvent échanger, et les échanges officiels sont consignés. L'équipe travaillera sur le matériel d'OpenAI, via des canaux pouvant être surveillés, et sans accès au Slack de l'entreprise, où se discute pourtant une grande part de l'informel. OpenAI peut retenir des documents pour des raisons de sécurité ou de protection de la propriété intellectuelle, mais pas parce qu'ils seraient gênants.

Que sait-on sur Contexte et conséquences pratiques ?

Cet accord prolonge les récentes initiatives d'OpenAI : Sam Altman a évoqué des testeurs externes disposant d'un accès proche de celui des salariés, et l'entreprise prévoyait de faire tester ses modèles par des groupes tiers pendant même l'entraînement. Dans ce contexte, Apollo présente ce pilote comme une première étape seulement : l'accès complet et le droit de publier librement les résultats qu'elle réclame restent lointains.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…