La déroute des agents IA : les mathématiques prouvent qu'ils ne seront jamais fiables

Vous souvenez-vous de l'an dernier, quand tout le monde a soudain cessé de parler de chatbots pour rêver d'« agents » ? On nous promettait que l'IA réserverait bientôt nos billets, écrirait du code pour des services entiers et piloterait les chaînes d'approvisionnement pendant que nous sirotons un smoothie. Il se trouve que les mathématiques ont un autre avis, plutôt désagréable pour ceux qui ont déjà réécrit leur plan d'affaires autour de la « pleine autonomie ».

Un groupe de chercheurs a publié un travail qui frappe l'industrie là où cela fait le plus mal : l'impossibilité mathématique d'un fonctionnement fiable des agents IA autonomes. Le problème n'est pas que les modèles soient « bêtes » ou manquent de données d'entraînement issues de Reddit. Il tient à la structure même des tâches séquentielles. Si vous demandez à une IA de faire quelque chose en une seule étape, la probabilité de succès est élevée. Mais dès que vous enchaînez dix actions, la terreur impitoyable de la théorie des probabilités s'installe.

Imaginez que chaque étape de l'agent soit exécutée avec une précision de 95 %. Ça semble correct, non ? Chez les humains, c'est un niveau de premier de la classe. Mais sur une chaîne de dix étapes, la probabilité globale de succès tombe sous les 60 %. Et avec cent étapes ? La chance que l'agent aille au bout sans transformer votre projet en déchet numérique tend vers zéro. C'est ce qu'on appelle l'« accumulation catastrophique d'erreurs » et, selon toute apparence, elle ne se soigne pas en élargissant simplement la fenêtre de contexte ou en ajoutant une nouvelle fournée de GPU H100.

L'industrie se trouve dans une situation pour le moins étrange. D'un côté, des investisseurs en capital-risque qui injectent des milliards dans des start-up comme Cognition, lesquelles promettent le « premier ingénieur IA au monde ». De l'autre, des mathématiques sèches qui répondent : « Les amis, ça ne marchera pas comme vous le dessinez dans vos présentations. » Nous tentons de bâtir un gratte-ciel sur un marécage, en espérant qu'une plus belle façade finira par consolider les fondations.

Le plus ironique, c'est que les entreprises continuent de vendre l'« autonomie » comme fonctionnalité phare. En pratique, nous obtenons des systèmes qu'il faut surveiller comme le lait sur le feu. Ce n'est pas une libération de la routine, mais une nouvelle forme de supervision, où l'humain devient le correcteur perpétuel d'un algorithme à moitié fou. Si un agent se trompe dans 5 % des cas, mais le fait en silence et avec une certitude absolue d'avoir raison, il devient plus dangereux que l'employé le plus paresseux et le plus incompétent. L'erreur d'un humain se prévoit ; celle d'un modèle statistique, non.

Autrefois, nous nous émerveillions qu'un réseau de neurones écrive des poèmes ou explique la physique quantique. C'était amusant, mais quasiment inutile pour la production réelle. Puis est venue l'ère des agents. L'idée était simple : donner au modèle des outils (un navigateur, un terminal, un accès aux API) et le laisser agir. L'IA est ainsi passée de « perroquet savant » à « stagiaire numérique ». Mais, on l'a vu, ce stagiaire souffre d'une forme sévère d'inattention progressive, inscrite dans ses formules mêmes.

Que cela signifie-t-il pour nous à court terme ? Très probablement, l'ère du « j'appuie sur un bouton, j'obtiens un résultat » est repoussée sine die. Il faudra repenser l'architecture de l'IA : passer de l'autonomie totale à des modules strictement contrôlés, où chaque étape est vérifiée non par une autre IA, mais par des méthodes formelles ou par un humain en chair et en os. On ne trompe pas les mathématiques avec des vidéos de démonstration tape-à-l'œil sur X (anciennement Twitter). Le chemin vers une véritable intelligence capable d'agir de façon fiable passe par la compréhension des relations de cause à effet, et non par la simple devinette du prochain token.

L'essentiel : les agents IA, dans leur forme actuelle, sont un piège statistique. Tant que nous n'aurons pas résolu le problème de l'accumulation d'erreurs, l'« autonomie » restera une attraction coûteuse et peu fiable pour les investisseurs. On attend que le hype percute enfin la réalité ?