Kevin Roose dans The AGI Chronicles : trois laboratoires mènent la course à l'AGI

Kevin Roose, journaliste tech et auteur, a déclaré sur Bloomberg This Weekend que la marche vers l'intelligence artificielle générale a été définie par un groupe relativement restreint de chercheurs et de dirigeants issus de trois entreprises : OpenAI, Anthropic et Google DeepMind. Cet échange a été motivé par la parution de son nouveau livre, The AGI Chronicles. Avec les animateurs David Gura et Christina Ruffini, il a abordé deux questions : qui contrôle réellement la technologie, et comment réguler des systèmes que leurs développeurs veulent amener à un niveau supérieur à celui de l'humain.

Trois laboratoires et un cercle étroit de personnes

La thèse de Kevin Roose est simple et dérangeante. La course à l'AGI ressemble à un mouvement de masse de toute l'industrie, mais le rythme et la direction sont décidés par une poignée de personnes. Seuls quelques acteurs disposent des ressources nécessaires pour entraîner des modèles de pointe, si bien que la composition de ce groupe change à peine.

Les histoires de ces entreprises sont liées. OpenAI est apparue en 2015. Anthropic a été fondée en 2021 par d'anciens d'OpenAI. DeepMind existe depuis 2010 ; Google l'a rachetée en 2014, puis l'a fusionnée en 2023 avec Google Brain pour former Google DeepMind. Beaucoup de figures clés ont travaillé côte à côte pendant des années, se sont opposées, puis ont pris des chemins différents. Le terme « petit groupe » n'est donc pas une métaphore : il décrit littéralement un cercle de personnes qui se connaissent personnellement.

Ce que l'on sait de l'entretien

L'émission est courte, et l'article de Bloomberg ne contient pas de résumé détaillé du livre. Voici les faits établis :

• Auteur : Kevin Roose, journaliste tech.
• Livre : The AGI Chronicles, récemment paru.
• Support : Bloomberg This Weekend, avec les animateurs David Gura et Christina Ruffini.
• Entreprises au cœur de la thèse : OpenAI, Anthropic, Google DeepMind.
• Question centrale : qui contrôle la technologie, et quels sont ses risques.
• Second thème : la difficulté de réguler des systèmes toujours plus capables.

Pourquoi la régulation n'arrive pas à suivre

Les régulateurs font face à deux problèmes. Le premier : la cible bouge. Les systèmes évoluent plus vite que les lois ne sont rédigées et adoptées, et des définitions comme « modèle de pointe » deviennent obsolètes en quelques versions. Le second : l'expertise est concentrée au sein des trois ou quatre mêmes entreprises que l'on doit justement réguler. Pour la supervision, c'est une faiblesse structurelle.

L'histoire de ces dernières années le confirme. L'AI Act européen est entré en vigueur en août 2024, mais ses exigences s'appliquent par étapes. Le projet de loi californien SB 1047 sur la sécurité des modèles de pointe a été rejeté par un veto du gouverneur en septembre 2024. Ces exemples ne viennent pas de l'entretien mais du contexte général, et ils illustrent le même décalage que décrit Kevin Roose.

Comment les entreprises et les développeurs doivent lire ces déclarations

Le livre et l'entretien n'apportent pas de nouvelles données techniques, mais ils offrent un cadre utile pour les décisions pratiques. Si le développement de l'IA de pointe dépend d'un cercle étroit d'entreprises, votre dépendance à leurs API est elle aussi concentrée entre les mêmes mains. Il est donc judicieux de prévoir dans l'architecture la possibilité de basculer d'un fournisseur à l'autre, et de ne pas lier un produit à un seul modèle.

Il faut aussi suivre les politiques de sécurité publiées par les laboratoires. Ces documents indiquent à quelles conditions les entreprises sont prêtes à ralentir ou à suspendre des sorties. Pour les équipes qui intègrent des agents et des assistants de code dans leurs processus de travail, c'est un facteur de risque au même titre que le prix du token ou les limites de requêtes. La liste complète des arguments de Kevin Roose ne sera claire qu'après la lecture du livre lui-même, mais la conclusion générale se lit déjà : la question de savoir qui pilote l'AGI est devenue un risque à part entière pour le marché.