OpenClaw et ses 160 000 étoiles : pourquoi les outils pour agents sont un piège

Écoutez : 160 000 étoiles sur GitHub, ça ne tombe pas du ciel. Ce n'est pas seulement le succès d'un dépôt de plus, c'est un cri d'alarme collectif de l'industrie. Le projet OpenClaw est devenu l'élément déclencheur du débat sur ce que les blogs tech chinois appellent le « côté A et le côté B » (AB) des outils pour agents.

Pendant que nous débattions de quel modèle avait la fenêtre de contexte la plus longue, le monde est devenu définitivement obsédé par l'autonomie. Nous ne voulons plus qu'un réseau de neurones se contente d'écrire des poèmes : nous voulons qu'il réserve des billets, corrige des bugs en production et gère nos finances. Mais c'est ici que commence la partie la plus intéressante, et un peu inquiétante.

Rappelons comment nous en sommes arrivés là. Il y a eu d'abord de simples chats. Puis AutoGPT, qui promettait de bouleverser le monde mais ne faisait, en pratique, que brûler des tokens sans fin dans des boucles vides. Voici maintenant les Agent Tools (outils d'agents) : en gros, les « mains » des grands modèles de langage. OpenClaw propose une méthode standardisée pour donner au réseau de neurones accès au monde extérieur.

Le côté « A » de cette médaille est brillant : l'efficacité est multipliée. Vous confiez une tâche, l'agent choisit lui-même la bonne API, actionne les leviers et livre le résultat. C'est l'employé IA dont rêvaient tous les fondateurs de startups de la Silicon Valley et de Shenzhen.

Mais la médaille a un côté « B » que les développeurs préfèrent souvent taire dans leurs présentations aux investisseurs. Le problème n'est pas que l'agent ne puisse pas appuyer sur un bouton. Le problème, c'est qu'il peut le faire au mauvais moment, au mauvais endroit et avec les mauvaises conséquences. Quand on parle d'« utilisation d'outils », on se heurte à une fragilité fondamentale. Les modèles hallucinent toujours, mais leurs hallucinations ont désormais des conséquences physiques ou financières. Si un agent décide que pour optimiser votre emploi du temps il faut supprimer les réunions « superflues » avec le calendrier et la boîte mail, il le fera avec un zèle vraiment machinal.

Pourquoi est-ce important maintenant ? Parce que nous avons atteint le plafond de la « raison » pure des modèles. L'écart entre GPT-4 et les itérations suivantes ne paraît plus aussi gigantesque. La croissance ne se fait plus en profondeur mais en largeur, par les intégrations. OpenClaw est devenu populaire parce qu'il tente de mettre de l'ordre dans ce chaos d'outils. Mais le paradoxe est que plus on donne d'outils à un agent, plus la probabilité d'erreur augmente. C'est ce qu'on appelle la « charge cognitive de l'agent ». Imaginez qu'on vous tende un couteau suisse à mille lames : vous vous couperez sans doute avant d'avoir trouvé la bonne.

La communauté chinoise des développeurs se demande activement s'il ne serait pas temps de ralentir. Plutôt que de gaver les agents de centaines de fonctions, il vaudrait peut-être mieux se concentrer sur la vérification des actions. Nous bâtissons des systèmes de contrôle d'une grande complexité sur des prédictions probabilistes du token suivant. C'est comme construire un gratte-ciel sur un marécage en espérant que le béton prenne avant que l'immeuble ne commence à pencher. OpenClaw est un excellent outil, mais il ne fait que mettre en lumière le problème central : nous avons donné des « pinces » à l'IA, mais oublié la proprioception, le sens de son propre corps et des limites du permis.

Que cela signifie-t-il pour nous ? Très probablement, dans l'année qui vient, nous verrons un reflux des « agents universels » vers des microservices très spécialisés. La sécurité et la prévisibilité deviendront une nouvelle monnaie, qui vaudra plus que n'importe quelle « étoile » GitHub. Nous entrons dans une ère où la capacité d'une IA à s'arrêter à temps et à demander la permission sera plus prisée que celle d'accomplir la tâche coûte que coûte. L'industrie commence enfin à comprendre qu'« intelligent » ne veut pas dire « fiable ».

L'essentiel : le battage autour d'OpenClaw prouve que les outils sont la nouvelle frontière, mais sans protocoles de sécurité stricts, ces « pinces » peuvent pincer cruellement leurs propres créateurs. Sommes-nous prêts à confier à un agent non seulement du texte, mais nos accès ?