OpenAI licencie trois chercheurs en sécurité, qui répondent par une lettre ouverte

La semaine dernière, OpenAI a annoncé le licenciement de trois salariés. L'entreprise affirme que son enquête interne a mis au jour une violation des règles d'accès aux informations sensibles et de traitement de ces informations : les salariés auraient partagé des données confidentielles avec une organisation tierce qui évalue la sécurité de l'IA, et ce en dehors des procédures établies. Les trois ont à présent publié une lettre ouverte commune. L'information provient du média chinois Jiqizhixin.

Ce que l'on sait du licenciement

Pour l'instant, le dossier se résume ainsi : il y a la position officielle de l'entreprise et la réponse des salariés licenciés. Aucun fait n'a été confirmé de manière indépendante. L'article de Jiqizhixin nomme deux des trois personnes. Jasmine Wang travaillait sur l'alignement des modèles (alignment). Le second salarié menait des recherches en sécurité et participait au travail technique à l'interface entre OpenAI et les évaluateurs externes. Le nom du troisième et le texte intégral de la lettre ne figurent pas dans l'extrait dont nous disposons ; nous ne relayons donc pas ce que nous n'avons pas vu.

Les principaux éléments de l'affaire :

• Licenciés : 3 salariés.
• Motif officiel : violation des règles d'accès aux informations sensibles et de leur traitement.
• Nature de l'accusation : transmission d'informations confidentielles à un évaluateur tiers de la sécurité de l'IA, en dehors des procédures.
• Profil des licenciés : alignment et recherche en sécurité, dont des contacts avec des auditeurs externes.
• Réaction : une lettre ouverte commune, dans laquelle les licenciés exposent leur version des faits.

Pourquoi le cas est sensible

L'évaluation externe de la sécurité repose sur l'accès. Pour qu'un groupe indépendant teste un modèle sur ses capacités dangereuses, il lui faut des données sur le comportement du système, des résultats de tests et souvent des informations sur des décisions internes. L'entreprise a, de son côté, un intérêt légitime à contrôler ce qui sort et à qui cela est destiné. Chaque échange passe par des canaux convenus, avec des accords de confidentialité et un périmètre de documents limité.

Les salariés licenciés travaillaient précisément à cette interface. Le différend ne porte donc vraisemblablement pas sur le fait même d'avoir eu des contacts avec des évaluateurs externes, mais sur deux points : ce qui a été transmis, et si la procédure a été respectée. La version d'OpenAI se résume à une violation du règlement. Ce que soutiennent les salariés ne deviendra clair qu'avec le texte intégral de la lettre. Tant que les deux parties décrivent les événements différemment, il est trop tôt pour dire qui a raison.

Il y a aussi un enjeu de réputation. Les laboratoires qui parlent publiquement de sécurité se voient régulièrement poser la même question : que deviennent les salariés qui soulèvent des problèmes ? Le licenciement de personnes issues des équipes alignment et safety, même pour des motifs formellement procéduraux, sera inévitablement lu comme un signal par le marché, par les régulateurs et par les futurs candidats.

Ce qu'il faut vérifier ensuite

Pour les lecteurs qui suivent le secteur, il est utile de distinguer trois niveaux. Premier niveau : ce que montrent les éléments de la lettre, si elle contient des documents ou une chronologie. Deuxième niveau : si OpenAI répondra publiquement, et avec quels faits, plutôt qu'avec la seule formule générale sur une violation des règles. Troisième niveau : comment réagiront les évaluateurs externes eux-mêmes, puisque l'autre partie à l'échange de données reste pour l'instant silencieuse.

Les équipes qui construisent des processus d'audit externe de modèles gagneraient à confronter leurs propres pratiques à ce cas. Il faut des canaux écrits pour la transmission des données, des niveaux d'habilitation clairs et une procédure compréhensible pour les salariés qui estiment que l'entreprise dissimule des risques. Sans voie interne légale, les conflits finiront par éclater au grand jour, sous la forme de licenciements et de lettres ouvertes.