OpenAI investit 7,5 millions de dollars dans la recherche indépendante sur la sécurité de l'IA

OpenAI a transféré 7,5 millions de dollars à The Alignment Project, une organisation à but non lucratif spécialisée dans la recherche indépendante sur l'alignement de l'intelligence artificielle. Le geste dépasse la philanthropie d'entreprise habituelle : une société en première ligne de la course à l'AGI finance délibérément ceux qui étudieront, de l'extérieur, les risques de cette même course. Le signal est plus qu'éloquent.

Pour comprendre l'enjeu, il faut prendre un peu de recul. Le problème de l'alignement (alignment) existe depuis que l'idée d'une IA puissante existe. Il est simple à formuler et extrêmement difficile à résoudre : comment faire agir un système d'une intelligence égale ou supérieure à celle de l'humain dans l'intérêt des personnes, et non contre elles ? La plupart des grands laboratoires, dont OpenAI, Anthropic et DeepMind, disposent de leurs propres équipes de sécurité. Mais la recherche interne se heurte inévitablement à un conflit d'intérêts : l'organisation qui étudie les risques a aussi intérêt à sortir son produit le plus vite possible. La science indépendante doit briser ce cercle vicieux.

The Alignment Project est né précisément en réponse à ce besoin. L'organisation travaille sans lien avec une entreprise particulière et se donne pour mission d'étudier des questions fondamentales de sécurité : comment contrôler le comportement de modèles puissants, comment détecter des objectifs cachés dans les systèmes, comment bâtir des mécanismes de supervision au niveau de l'architecture, et pas seulement à celui des politiques produit. La subvention d'OpenAI lui permet d'élargir son programme de recherche et d'attirer des scientifiques qui, autrement, auraient pu rejoindre des laboratoires commerciaux.

Le montant est lui aussi notable. 7,5 millions de dollars ne sont pas un geste symbolique. Pour une structure de recherche à but non lucratif, c'est un budget de fonctionnement sérieux, suffisant pour constituer plusieurs équipes à part entière pendant plusieurs années. À titre de comparaison, le budget annuel total de nombreux centres universitaires de sécurité de l'IA dépasse rarement un à deux millions. OpenAI ne se contente donc pas de proclamer son attachement à la sécurité : elle y consacre des ressources réelles en dehors de sa propre structure. C'est un niveau d'engagement qualitativement différent.

Pour l'industrie dans son ensemble, l'épisode a plusieurs conséquences importantes. Premièrement, cette pratique peut devenir la norme : si OpenAI montre que financer des chercheurs indépendants n'est pas une menace mais un atout, les autres grands acteurs subiront une pression pour suivre. Anthropic, Google DeepMind et Meta* affirment tous, d'une manière ou d'une autre, faire de la sécurité une priorité, mais le financement externe de recherches critiques reste rare.

Deuxièmement, l'apparition de centres financés de façon indépendante crée les conditions d'un débat public plus honnête. Les chercheurs qui ne dépendent pas de subventions d'entreprise assorties de clauses de confidentialité peuvent publier leurs résultats ouvertement, y compris les plus gênants. Troisièmement, c'est une reconnaissance indirecte que le problème de la sécurité de l'AGI est réel et urgent.

Une entreprise qui affirme publiquement être proche de créer l'AGI admet en même temps qu'elle n'a pas toutes les réponses sur la façon de le faire en toute sécurité.

Il existe aussi un point de vue sceptique qu'on ne peut pas ignorer. Les critiques soulignent depuis longtemps que même les organisations « indépendantes » qui reçoivent l'argent des entreprises qu'elles étudient subissent inévitablement une certaine pression, explicite ou non. L'histoire de la science académique connaît de nombreux cas où de grands donateurs ont façonné l'agenda de recherche non par des directives, mais par le simple fait de financer. La mesure dans laquelle The Alignment Project saura préserver une réelle indépendance de jugement restera une question ouverte et exigera une surveillance constante de la communauté scientifique.

Reste que la direction prise compte plus qu'un geste isolé. Le moment où les dirigeants de l'industrie de l'IA commencent à investir de manière systématique dans une supervision indépendante de leurs propres développements est un point que l'histoire retiendra. La question est de savoir si ce précédent deviendra une pratique durable ou restera un geste isolé de bonne volonté. La réponse ne viendra pas d'un communiqué de presse, mais de ce qui sera publié dans les revues scientifiques dans les prochaines années.

*Meta est considérée comme une organisation extrémiste et est interdite en Fédération de Russie.