OpenAI cherche des freins : le poste de directeur de la préparation est enfin pourvu

OpenAI a nommé un directeur de la préparation, un titre qui semble tout droit sorti d'un thriller hollywoodien sur la révolte des machines. Tandis que Sam Altman vend au monde l'idée d'un avenir où l'IA résout tous les problèmes de l'humanité, l'entreprise sait manifestement que cet avenir pourrait arriver trop vite et pas tout à fait comme prévu. Placer quelqu'un à un poste chargé de la sécurité et de la « préparation » aux risques n'est pas une simple formalité bureaucratique, mais une tentative de bâtir un système de contre-pouvoirs dans une organisation souvent accusée de précipitation.

Le contexte compte plus que la nomination elle-même. Depuis que Ilya Sutskever et son équipe de « superalignement » ont pratiquement disparu des radars après le coup de force de novembre chez OpenAI, une question logique se pose : qui veille désormais à ce que l'IA n'apprenne pas à un collégien à fabriquer une bombe dans son garage ? La réponse est venue sous la forme du Preparedness Framework. Ce règlement interne décrit comment l'entreprise évaluera ses modèles selon quatre catégories de risque : cybersécurité, menaces chimiques et biologiques, sécurité nucléaire et, bien sûr, le bon vieux « comportement autonome ».

L'idée du cadre est simple : si un modèle obtient la note « risque élevé » dans l'une des catégories, il ne peut pas être publié pour un usage public. Le directeur de la préparation devient celui qui a la main sur l'interrupteur. Il devra arbitrer entre l'envie des investisseurs de sortir le produit au plus vite et la nécessité de garantir qu'il ne fera pas s'effondrer les marchés financiers ni ne se mettra à manipuler l'esprit de millions d'utilisateurs.

Pourquoi maintenant ? C'est simple : GPT-5 se profile à l'horizon. Chaque nouvelle génération de modèles affiche une croissance exponentielle de ses capacités, et les régulateurs américains et européens ne sont plus prêts à croire OpenAI sur parole. Ils veulent des personnes précises responsables de processus précis. C'est aussi un excellent coup de communication : montrer que l'entreprise mûrit et se dit prête à jouer selon les règles, même si elle les écrit elle-même.

En réalité, on assiste à une tentative de légitimer le développement de systèmes ultrapuissants. Si vous avez un « directeur de la préparation », vous êtes prêt à tous les scénarios, n'est-ce pas ? Du moins, c'est ce que le public doit voir. Mais une question reste ouverte : une seule personne, même dotée du titre le plus redoutable, pourra-t-elle arrêter une machine à plusieurs milliards si elle décide soudain que les règles ne lui servent plus ? Dans une industrie où la vitesse de sortie des mises à jour conditionne la survie, la sécurité devient souvent une gêne qu'on préfère contourner par la bande d'arrêt d'urgence.

L'essentiel : OpenAI se construit une façade de grande entreprise responsable avant le lancement de son prochain gros modèle. L'IA en sera-t-elle plus sûre, ou n'est-ce que le travail habile des juristes et du service RH ?