L'économie de l'AGI : les humains deviendront vérificateurs, les machines prendront le travail

Parler de singularité technologique n'est plus depuis longtemps l'apanage des auteurs de science-fiction et des futurologues à chaîne YouTube. Désormais, des économistes des plus grandes universités du monde s'en emparent, et leurs conclusions méritent qu'on s'y arrête. Dans le dernier numéro de la newsletter Import AI, l'une des sources les plus respectées sur la recherche en intelligence artificielle, le sujet central est un modèle d'« économie de l'AGI » proposé par un groupe de chercheurs du Massachusetts Institute of Technology, de l'Université de Washington à Saint-Louis et de l'Université de Californie à Los Angeles.

Leur travail se résume à une formule simple mais inquiétante : dans un monde où l'intelligence artificielle générale devient réalité, l'écrasante majorité du travail productif passe aux machines. L'humain ne disparaît pas de l'équation économique, mais son rôle change en profondeur. Au lieu de créer, les gens se mettent à contrôler. Au lieu de produire, ils vérifient. Ce n'est pas seulement l'automatisation des tâches routinières : c'est une refonte de la logique même de la division du travail, qui existe depuis des millénaires.

Pourquoi la vérification, précisément ? La réponse tient à l'asymétrie fondamentale entre créer et contrôler. Générer du code, rédiger un document juridique, concevoir une pièce : les systèmes d'IA le font déjà avec une vitesse impressionnante.

Mais s'assurer que le résultat est correct, sûr et conforme aux besoins réels exige toujours un jugement humain. Les chercheurs constatent ce que les professionnels du secteur observent déjà : les ingénieurs écrivent de moins en moins de code à partir de zéro et relisent de plus en plus ce que proposent Copilot ou Claude. Les juristes vérifient des projets de contrats rédigés par l'IA au lieu de les rédiger eux-mêmes.

Le modèle du MIT et de WashU ne fait qu'extrapoler cette tendance jusqu'à sa limite logique.

Mais un paradoxe apparaît, que les auteurs, à en juger par la description de leur travail, reconnaissent. La vérification est une compétence qui se forge par la pratique de la création. Un chirurgien peut juger la qualité d'une opération parce qu'il en a réalisé des milliers. Un programmeur repère un bug dans du code généré parce qu'il a écrit du code à la main pendant des années. Si les nouvelles générations de spécialistes endossent d'emblée le rôle de vérificateurs, en sautant l'étape de l'apprentissage pratique approfondi, la qualité de la vérification elle-même se dégradera inévitablement. Cela crée une sorte de piège des compétences, auquel économistes et responsables politiques devraient réfléchir dès maintenant.

Le même numéro d'Import AI soulève deux autres sujets qui complètent le tableau. Le premier est l'utilisation d'environnements de jeu générés de façon procédurale pour tester les systèmes d'IA. L'idée est que les benchmarks statiques deviennent vite obsolètes et sont « appris par cœur » par les modèles, alors que des scénarios de jeu créés dynamiquement permettent d'évaluer une véritable capacité de généralisation et d'adaptation. C'est un changement méthodologique important : l'industrie commence à comprendre que l'intelligence d'une machine doit se mesurer non par des tests, mais par sa capacité à gérer l'imprévu.

Le second sujet est le concept d'« écologies d'agents », c'est-à-dire des systèmes où de nombreux agents d'IA autonomes interagissent, se font concurrence et coopèrent. Si l'économie de l'AGI décrit la relation entre l'humain et la machine, les écologies d'agents décrivent celle des machines entre elles. C'est le niveau de complexité suivant, où la prévisibilité du comportement d'un agent isolé ne garantit pas encore celle du système entier. Les effets émergents dans ces écologies peuvent être productifs comme dangereux, et c'est un pont direct vers les questions de sécurité de l'IA.

Pris ensemble, ces trois sujets composent un tableau cohérent et plutôt dégrisant. Nous allons vers un monde où les machines produisent, les humains vérifient, et où les machines forment entre elles leurs propres écosystèmes d'interaction. Ce n'est ni une utopie ni une dystopie : c'est une nouvelle réalité économique dont les contours se dessinent déjà aujourd'hui.

La question n'est pas de savoir si elle arrivera, mais si nous aurons le temps de préparer les institutions, l'éducation et les cadres réglementaires qui permettront aux gens de conserver non seulement un emploi, mais une véritable capacité d'agir dans ce nouveau monde. Les chercheurs du MIT, de WashU et de UCLA posent, au moins, les bonnes questions. Les réponses, il nous faudra les chercher tous ensemble, et de préférence avant que l'économie de l'AGI ne devienne un fait accompli.