L’économie de l’AGI : les humains deviendront des vérificateurs, et les machines prendront en charge le travail

Les conversations sur la singularité technologique ont depuis longtemps cessé d'être le domaine des écrivains de science-fiction et des futurologues YouTube. Elles sont maintenant le domaine des économistes des principales universités du monde — et leurs conclusions méritent une attention particulière. Dans un numéro récent du bulletin analytique Import AI, l'une des sources les plus faisant autorité sur la recherche en intelligence artificielle, le thème central était le modèle d'« économie AGI » proposé par un groupe de chercheurs du Massachusetts Institute of Technology, de l'Université de Washington à St. Louis et de l'Université de Californie à Los Angeles.

L'essence de leur travail se résume à une formule simple, mais troublante : dans un monde où l'intelligence générale artificielle devient une réalité, la grande majorité du travail productif se transfère aux machines. Les humains ne disparaissent pas de l'équation économique, mais leur rôle subit une transformation fondamentale. Au lieu de créer, les gens commencent à vérifier. Au lieu de produire, ils valident. Ce n'est pas simplement l'automatisation de la routine — c'est une restructuration de la logique même de la division du travail qui existe depuis des millénaires.

Pourquoi exactement la vérification ? La réponse réside dans une asymétrie fondamentale entre la création et la vérification. Générer du code, rédiger un document juridique, concevoir un composant — les systèmes d'IA font déjà tout cela à une vitesse impressionnante.

Mais s'assurer que le résultat est correct, sûr et répond aux besoins réels nécessite toujours le jugement humain. Les chercheurs documentent ce que les professionnels de l'industrie observent déjà : les ingénieurs écrivent de moins en moins de code à partir de zéro et consacrent de plus en plus de temps à examiner ce que propose Copilot ou Claude. Les avocats vérifient les brouillons de contrats générés par l'IA plutôt que de les rédiger eux-mêmes.

Le modèle du MIT et WashU extrapole simplement cette tendance jusqu'à sa limite logique.

Cependant, un paradoxe émerge ici que les auteurs, à en juger par la description de leurs travaux, reconnaissent. La vérification est une compétence qui se développe par la pratique de la création. Un chirurgien peut évaluer la qualité d'une opération parce qu'il en a effectué des milliers. Un programmeur détecte les bugs dans le code généré parce qu'il a écrit du code manuellement pendant des années. Si les nouvelles générations de spécialistes entrent immédiatement dans le rôle de vérificateurs, en sautant l'étape de maîtrise pratique profonde, la qualité de la vérification elle-même se dégrada inévitablement. Cela crée un piège de compétences particulier que les économistes et les décideurs politiques devraient envisager dès maintenant.

Dans le même numéro d'Import AI, deux autres sujets sont soulevés qui complètent organiquement le tableau. Le premier est l'utilisation d'environnements de jeux générés procéduralement pour tester les systèmes d'IA. L'idée est que les benchmarks statiques deviennent rapidement obsolètes et sont « mémorisés » par les modèles, tandis que les scénarios de jeux créés dynamiquement permettent d'évaluer les véritables capacités de généralisation et d'adaptation. C'est un changement méthodologique important : l'industrie commence à comprendre que mesurer l'intelligence des machines ne doit pas se faire par des tests, mais par la capacité à faire face à l'inattendu.

Le deuxième sujet est le concept d'« écologies d'agents » — des systèmes dans lesquels plusieurs agents d'IA autonomes interagissent les uns avec les autres, se font concurrence et coopèrent. Si l'économie AGI décrit la relation entre humains et machines, alors les écologies d'agents décrivent les relations entre machines. C'est le prochain niveau de complexité, où la prévisibilité du comportement d'un agent individuel ne garantit pas la prévisibilité de l'ensemble du système. Les effets émergents dans de telles écologies peuvent être productifs ou dangereux — et cela jette un pont direct vers les questions de sécurité de l'IA.

Tous ensemble, ces trois sujets forment un tableau cohérent et passablement édifiant. Nous nous dirigeons vers un monde où les machines produisent, les gens vérifient, et entre les machines se forment leurs propres écosystèmes d'interaction. Ce n'est ni une utopie ni une dystopie — c'est une nouvelle réalité économique dont les contours sont déjà visibles aujourd'hui.

La question n'est pas si elle arrivera, mais si nous parviendrons à préparer les institutions, l'éducation et les cadres réglementaires qui permettront aux gens de conserver non pas simplement un emploi, mais une véritable capacité d'action dans ce nouveau monde. Les chercheurs du MIT, WashU et UCLA, du moins, posent les bonnes questions. Les réponses, cependant, nous devrons les trouver ensemble — et de préférence avant que l'économie AGI ne devienne un fait accompli.