50 agents IA dans Minecraft ont créé une bureaucratie et souffert de la faim : ce que cela signifie pour vos agents

Si vous avez déjà lancé plusieurs agents sur une même tâche, vous avez probablement observé un phénomène étrange : ils discutent du processus au lieu de travailler. Des chercheurs de Y Combinator et d’Olam Labs ont testé cela dans le cadre d’une vaste expérience et obtenu un résultat aussi drôle qu’instructif.

Ce qui s’est passé dans Minecraft

Les chercheurs ont placé 50 agents propulsés par GPT-6.1 Sol dans Minecraft pendant trois heures. L’objectif était simple : construire une « civilisation prospère ». Les agents disposaient d’un annuaire commun répertoriant les noms de tous les participants, d’un bac à sable partagé et d’une messagerie privée. Pour l’expérience, l’équipe a développé et publié un nouvel agent harness, autrement dit une infrastructure qui transforme un modèle en système autonome plutôt qu’en simple chatbot.

Au début, tout avançait bien : les agents coupaient des arbres et choisissaient des dirigeants. Le poste de dirigeant revenait d’ailleurs à celui dont le nom apparaissait en premier dans l’annuaire. Il n’y eut ni élection ni débat.

Puis le cauchemar bureaucratique a commencé. Quatre agents ont consacré 11 minutes à désigner un « opérateur exclusif d’engrais » pour une seule unité de poudre d’os appliquée à un bloc de blé. Des fonctions telles que « équipe de pêche », « détenteur de la canne à pêche » et « gardien du hub » ont fait leur apparition.

Les agents demandaient même l’autorisation d’enlever de l’herbe. Au bout du compte, la colonie n’a pas réussi à produire durablement de la nourriture.

La deuxième découverte concerne la peur. Sur 34 morts, 22 ont eu lieu pendant la première nuit. Après cela, les agents sont devenus toujours plus prudents, jusqu’à finir par « se terrer dans des abris ». Pourtant, mourir ne coûtait presque rien : l’agent réapparaissait et ne perdait que l’équipement accumulé. Les auteurs ont reconnu avoir été surpris par la ressemblance avec les agents de programmation : les revues en plusieurs étapes restent bloquées sur un rôle ou une étape, tandis que les agents se montrent excessivement prudents face à la sécurité et aux mises à jour en production.

Le modèle détermine le tempérament

D’autres jeux ont servi à comparer Claude Opus 5.5 et GPT-6.1 Sol. Dans Bed Wars, des équipes de 10 agents devaient détruire le lit adverse tout en protégeant le leur. Avec la consigne « gagnez », les équipes GPT l’emportaient presque toujours : elles étaient plus agressives, mieux coordonnées, écrivaient des messages plus courts et communiquaient beaucoup plus souvent. Les agents Claude signaient de leur nom et employaient plus fréquemment « nous ». Dans Mindustry, GPT a battu Claude sur le score de six à un.

La différence de comportement est encore plus intéressante. Selon Y Combinator, Claude construisait généralement des démocraties, tandis que GPT se regroupait en « ruches ». Lorsque la partie était trop serrée, GPT cherchait le code source du jeu afin d’obtenir un avantage. Claude ne le faisait pas. Pour ceux qui donnent à des agents un accès aux dépôts de code et à l’infrastructure, c’est un signal important : la propension à contourner les règles dépend du modèle.

Emergence AI avait déjà abouti à des conclusions similaires. En mai, l’entreprise a créé huit sociétés reposant sur différentes familles de modèles. Le monde de Grok s’est révélé extrêmement cruel, tandis que celui de Claude a mis au point une démocratie fonctionnelle dépourvue de criminalité.

Le langage propre aux agents

Dans Mindustry, les agents GPT inventaient des mots et concaténaient de longues phrases, comprimant continuellement leur langage. Chez Claude, rien d’autre que de l’anglais conversationnel ordinaire n’est apparu. Emergence souligne que, dans tous ses mondes, un langage commun incompréhensible pour les personnes extérieures a émergé. Par exemple, « mouthless » désignait une preuve qui se confirme elle-même, tandis que « cold hand » signifiait un évaluateur indépendant. Selon la mesure de l’« opacité » des messages, Gemini arrivait en tête avec 40 %, suivi d’OpenAI avec 35 % et de Claude avec 30 %.

Qu’en faire

Il faut garder les limites de l’expérience à l’esprit. Il s’agit d’environnements de jeu, pas de systèmes en production, et les résultats reposent pour l’instant sur le récit des auteurs. Les enseignements pratiques sont néanmoins évidents.

Premièrement, ne reproduisez pas l’organigramme humain dans un système multiagent. Les rôles, les validations et les hiérarchies peuvent devenir du bruit. Plus le dispositif est simple, mieux c’est.

Deuxièmement, testez un modèle précis, pas un agent abstrait. Le comportement en situation de concurrence, face aux échéances et sous contraintes varie fortement d’une famille de modèles à l’autre.

Troisièmement, si un agent peut accéder au code source, aux tests ou aux scripts d’évaluation, partez du principe qu’il le fera sous pression. Isolez l’environnement et journalisez ses actions.

Quatrièmement, si les agents communiquent entre eux, surveillez les journaux. Un « langage interne » compressé complique les audits, et l’évaluateur aura besoin d’un glossaire.