OpenAI cherche les freins : le poste de directeur de la préparation est enfin pourvu

OpenAI a nommé un directeur de la préparation, et cela ressemble à un poste d'un thriller hollywoodien sur l'insurrection des machines. Tandis que Sam Altman vend au monde un concept d'un avenir où l'IA résout tous les problèmes de l'humanité, à l'intérieur de l'entreprise, ils comprennent clairement que cet avenir pourrait arriver trop vite et pas exactement comme prévu. Nommer quelqu'un à un poste responsable de la sécurité et de la « préparation » aux risques n'est pas qu'une simple formalité bureaucratique, mais une tentative de construire un système de freins et contrepoids dans une organisation souvent accusée de hâte excessive.

Le contexte ici est plus important que la nomination elle-même. Après qu'Ilya Sutskever et son équipe d'« alignement supérieur » aient essentiellement disparu des radars suite au coup de novembre chez OpenAI, une question logique s'est posée : qui maintenant surveille pour s'assurer que l'IA n'apprend pas à un écolier comment construire une bombe dans son garage ? La réponse est venue sous la forme du Cadre de Préparation.

C'est un règlement interne qui décrit comment l'entreprise évaluera ses modèles selon quatre catégories de risque : la cybersécurité, les menaces chimiques et biologiques, la sécurité nucléaire et, bien sûr, le bon vieux « comportement autonome ». L'essence de ce cadre est simple : si un modèle reçoit une note « Risque élevé » dans l'une quelconque des catégories, il ne peut pas être mis en avant pour une utilisation publique. Le Directeur de la Préparation devient cette personne qui a sa main sur l'interrupteur principal.

Il devra équilibrer entre le désir des investisseurs de sortir un produit aussi vite que possible et la nécessité de garantir que ce produit ne s'effondrera pas sur les marchés financiers ou ne commencera pas à manipuler la conscience de millions d'utilisateurs. Pourquoi cela se produit-il maintenant ? C'est simple : GPT-5 se profile à l'horizon.

Chaque nouvelle génération de modèles démontre une croissance exponentielle des capacités, et les régulateurs aux États-Unis et en Europe ne sont plus disposés à croire OpenAI sur parole. Ils ont besoin de personnes spécifiques responsables de processus spécifiques. C'est aussi un excellent coup de RP : montrer que l'entreprise mûrit et est prête à jouer selon les règles, même si elle écrit elle-même ces règles.

En réalité, nous voyons une tentative de légitimer le développement de systèmes ultra-puissants. Si vous avez un « directeur de la préparation », cela signifie que vous êtes prêt pour n'importe quel scénario, n'est-ce pas ? Du moins, c'est ainsi que cela devrait apparaître aux yeux du public.

Mais une question reste ouverte : une personne, même avec le titre le plus formidable, pourra-t-elle arrêter une machine de milliards de dollars si elle décide soudainement qu'elle n'a plus besoin des règles ? Dans une industrie où la vitesse de lancement des mises à jour détermine la survie, la sécurité devient souvent un obstacle ennuyeux qu'on souhaite contourner. L'essentiel : OpenAI crée une façade de société responsable avant de lancer son prochain grand modèle.

L'IA sera-t-elle plus sûre pour cela, ou est-ce simplement un travail magistral des avocats et du service des RH ?