OpenAI embauche un « directeur de la survie » : Sam Altman se prépare à l'arrivée de GPT-5

Sam Altman fait à nouveau un geste qui fait que l'industrie ajuste nerveusement ses cravates. La nomination de Dylan Scandiano au poste de "Directeur de la Préparation Opérationnelle" semble être la tentative d'OpenAI de prouver qu'elle contrôle toujours la situation. Pendant que nous nous amusons à générer des images et que nous demandons à un chatbot d'écrire du code pour une calculatrice, à l'intérieur de l'entreprise, ils se préparent à des scénarios qui semblaient autrefois être le scénario d'un blockbuster hollywoodien.

Altman parle ouvertement : les prochains modèles posséderont une puissance extraordinaire, et les anciens protocoles de sécurité ne pourront tout simplement pas gérer la charge. Cette nomination ne se fait pas dans le vide. Après les départs remarqués de figures clés de l'équipe de sécurité, dont Ilya Sutskever et Jan Leike, la réputation d'OpenAI en matière d'éthique a été notablement secouée.

Les critiques accusaient l'entreprise d'avoir échangé la prudence contre les profits et la vitesse de développement. Scandiano doit maintenant devenir ce paratonnerre qui calmera les régulateurs et le public. Sa tâche n'est pas simplement de vérifier le code pour les erreurs, mais de construire un système de protection contre les risques sérieux, dont Altman préfère parler de manière évasive, mais inquiète.

Le titre du poste lui-même est intéressant. « Preparedness » ne concerne pas l'observation passive, mais la préparation active aux crises. Dans le contexte de l'IA, cela pourrait signifier n'importe quoi : de la prévention de la création d'armes biologiques à l'aide d'un modèle au contrôle des tentatives du système de s'échapper du bac à sable numérique.

Nous entrons dans une ère où les capacités des réseaux de neurones commencent à dépasser notre compréhension de la manière de les gérer. OpenAI admet effectivement que ses produits futurs pourraient être dangereux par nature s'ils restaient sans la supervision de personnes spécialement formées. Pour l'industrie, c'est un signal clair : la course aux armements se déplace vers un nouveau niveau.

Si auparavant les entreprises se concurrençaient sur le nombre de paramètres et la qualité des réponses, maintenant un élément actif important devient l'architecture du contrôle. Les investisseurs et les partenaires veulent être sûrs que la prochaine percée ne sera pas la dernière pour l'humanité, ou plus prosaïquement, ne mènera pas à des procès de plusieurs milliards de dollars. Altman comprend que sans la confiance du public, il ne sera pas possible de mettre à l'échelle la technologie au niveau de l'infrastructure mondiale.

Cependant, derrière de belles paroles sur le bénéfice pour la société se cache un calcul pragmatique. En créant de tels postes, OpenAI se garantit le statut de leader qui établit ses propres règles du jeu. Si Scandiano parvient à construire un système fonctionnant, OpenAI deviendra un étalon non seulement en technologie, mais aussi en réglementation.

Cela permettra à l'entreprise de dicter les conditions aux gouvernements, en expliquant exactement comment l'IA doit être contrôlée pour ne pas, prétendument, nuire au progrès. Un mouvement intelligent qui combine la préoccupation pour l'avenir avec la capture classique du marché. L'essentiel : OpenAI prépare le terrain pour le lancement de modèles dont les capacités pourraient effrayer un utilisateur non préparé.

Sera-t-il suffisant de nommer une personne pour contenir le génie numérique, ou est-ce simplement un mouvement de relations publiques intelligent pour calmer les critiques avant la sortie de GPT-5 ?