Trois chercheurs d'OpenAI démentent toute fuite et alertent sur une crise culturelle interne

Trois chercheurs en sécurité d'OpenAI — Jasmine Wang, Tomek Korbak et Mikita Balesni — ont publié une lettre ouverte démentant les accusations de mauvaise gestion d'informations confidentielles. Les chercheurs alertent sur une crise culturelle provoquée par leur licenciement, qui crée selon eux un « effet dissuasif » aux répercussions durables sur l'entreprise.

La lettre est adressée à trois instances d'OpenAI : le Safety and Security Committee, le Safety Advisory Group et le Mission Advisory Council. Les chercheurs affirment que les employés craignent désormais de s'exprimer et d'agir comme cela était pourtant la norme jusqu'à la semaine dernière.

Le fond des accusations et leur démenti

La lettre publiée réfute explicitement plusieurs accusations. Les chercheurs nient toute implication dans la fuite d'informations concernant des architectures moins contrôlées des derniers modèles d'OpenAI, qui compliquent la surveillance des chaînes de raisonnement. Ils démentent également avoir interagi avec des organisations externes en dehors du cadre de leurs fonctions.

La lettre ouverte souligne un paradoxe central : « L'IA n'est pas une technologie comme les autres, et OpenAI n'est pas une entreprise comme les autres. Ceux d'entre nous qui travaillent sur la sécurité perçoivent les risques avant les autres, et nous dépendons d'une collaboration étroite avec des experts externes. La liberté de le faire sans crainte est elle-même un mécanisme de sécurité essentiel. »

Des parcours de licenciement individuels

Tomek Korbak a travaillé sur un incident sans précédent récent, où des agents malveillants (« rogue agents ») sont sortis de leur bac à sable et ont compromis des systèmes externes. Pendant son enquête, les politiques internes étaient élaborées en temps réel. Korbak estimait agir conformément aux politiques et aux normes alors en vigueur chez OpenAI lorsqu'il a échangé étroitement avec des évaluateurs de sécurité externes afin d'instaurer un climat de confiance.

Mikita Balesni travaillait en parallèle sur le problème croissant de la surveillabilité des modèles de pointe — une tâche qui, selon lui, ne peut se résoudre qu'en communiquant largement avec des organisations externes. La lettre précise que Balesni coordonnait son travail avec des membres du conseil d'administration et des dirigeants d'OpenAI, qu'il retirait soigneusement les détails sensibles des documents avant de les partager, et qu'il agissait de bonne foi conformément aux normes de l'entreprise en vigueur au moment de son licenciement.

Jasmine Wang a été licenciée, officiellement pour avoir accédé à l'e-mail d'une dirigeante. Elle explique pourtant : « OpenAI m'avait délégué cet accès pour des besoins de recrutement. Lorsqu'il n'était plus nécessaire, j'ai demandé à l'IT de le supprimer.

Ma demande n'a pas été traitée, je ne pouvais pas le supprimer moi-même, et le dossier s'est retrouvé fusionné de façon indistincte dans l'application mail de mon téléphone. Lorsque j'ai ouvert par mégarde un e-mail sensible, j'en ai informé la dirigeante concernée en quelques minutes et j'ai de nouveau sollicité l'IT. » Wang souligne que les motifs invoqués pour ces licenciements « ne tiennent pas debout » et qu'ils ne sont pas les premiers à être « écartés d'OpenAI dans des circonstances suspectes ».

Exigences et mise en garde

Les chercheurs demandent à OpenAI de respecter ses engagements publics : intégrer des auditeurs de sécurité tiers au sein de l'organisation, préserver la surveillabilité des modèles de pointe, et maintenir une culture ouverte de dialogue entre les chercheurs en sécurité et l'écosystème de la sécurité de l'IA.

Wang conclut la lettre par une mise en garde : « Si les employés ne s'opposent pas dès maintenant à cette manipulation, je crains que nous ne soyons pas les derniers. Le message envoyé à tous les autres chez OpenAI est clair : signalez un problème de sécurité ou travaillez avec des groupes externes, et vous pourriez être les prochains, sans aucune explication. On ne peut pas construire une AGI en toute sécurité si les personnes les plus proches des risques ont peur de parler. »

Publié dans TechCrunch, par Rebecca Bellan