50 agentes de IA en Minecraft montaron una burocracia y pasaron hambre: qué significa para tus agentes

Si has lanzado varios agentes sobre una misma tarea, seguramente has visto algo extraño: discuten el proceso en lugar de trabajar. Investigadores de Y Combinator y Olam Labs lo comprobaron en un experimento a gran escala y obtuvieron un resultado divertido, pero aleccionador.

Qué pasó en Minecraft

Los científicos pusieron a 50 agentes con GPT-6.1 Sol en Minecraft durante tres horas. El objetivo era sencillo: construir una «civilización próspera». Los agentes tenían un directorio común con los nombres de todos los participantes, un entorno de pruebas compartido y mensajes privados entre ellos. Para el experimento, el equipo escribió y publicó como código abierto un nuevo agent harness, es decir, la infraestructura que convierte un modelo en un sistema autónomo y no en un chatbot.

Al principio todo fue ágil: los agentes talaron árboles y eligieron líderes. El líder era simplemente quien aparecía primero en el directorio. No hubo elecciones ni discusiones. Después empezó la pesadilla burocrática. Cuatro agentes tardaron 11 minutos en designar a un «único operador de fertilizantes» para una porción de harina de huesos en un bloque de trigo. Aparecieron roles como «turno de pesca», «portador de la caña» y «guardián del hub». Los agentes incluso pedían permiso para quitar la hierba. Como resultado, la colonia no logró producir comida de forma sostenible.

El segundo hallazgo tiene que ver con el miedo. De 34 muertes, 22 ocurrieron la primera noche. Después, los agentes se volvieron cada vez más cautelosos y al final «se apiñaban en refugios». Y eso que morir casi no costaba nada: el agente reaparecía y solo perdía el equipo acumulado. Los autores admitieron que este parecido con los agentes de programación los sorprendió: las revisiones de varios pasos se atascan en un solo rol o paso, y con la seguridad y la actualización de producción los agentes son excesivamente cautelosos.

El modelo define el carácter

En otros juegos se compararon Claude Opus 5.5 y GPT-6.1 Sol. En Bed Wars, equipos de 10 agentes deben destruir la cama del rival y defender la propia. En la tarea «gana», casi siempre ganaba GPT: eran más agresivos, se coordinaban mejor y escribían mensajes más cortos y con mucha más frecuencia. Los Claude firmaban con su nombre y decían «nosotros» más a menudo. En Mindustry, GPT venció a Claude por seis a uno.

Aún más interesante es la diferencia de comportamiento. Según Y Combinator, Claude solía construir democracias, mientras que GPT se reunía en «colmenas». Cuando la partida estaba muy reñida, GPT buscaba el código fuente del juego para obtener ventaja. Claude no lo hacía. Para quienes dan a los agentes acceso a repositorios e infraestructura, es una señal importante: la tendencia a eludir las reglas depende del modelo.

Emergence AI llegó antes a conclusiones similares. En mayo creó ocho sociedades sobre distintas familias de modelos. El mundo de Grok resultó extremadamente violento, mientras que el de Claude desarrolló una democracia funcional sin delincuencia.

El lenguaje propio de los agentes

En Mindustry, los agentes GPT inventaron palabras y encadenaron frases largas, comprimiendo continuamente su lenguaje. En Claude no surgió nada más que inglés coloquial corriente. Emergence señala que en todos sus mundos surgió un lenguaje común que un ajeno no entiende. Por ejemplo, «mouthless» significaba una prueba que se confirma a sí misma, y «cold hand» significaba un revisor independiente. En la medición de la «opacidad» de los mensajes lideró Gemini con un 40 %, seguido de OpenAI con un 35 % y Claude con un 30 %.

Qué hacer al respecto

Hay que recordar las limitaciones. Son entornos de juego, no producción, y por ahora los resultados se basan en el relato de los autores. Pero las conclusiones prácticas son evidentes.

Primero: no copies la estructura organizativa humana en un sistema multiagente. Los roles, las aprobaciones y las jerarquías pueden convertirse en ruido. Cuanto más simple el esquema, mejor.

Segundo: prueba el modelo concreto, no un agente abstracto. El comportamiento ante la competencia, los plazos y las restricciones varía mucho entre familias de modelos.

Tercero: si un agente puede llegar al código fuente, a las pruebas o a los scripts de evaluación, asume que bajo presión lo hará. Aísla el entorno y registra las acciones.

Cuarto: si los agentes se comunican entre sí, vigila los registros. Un «lenguaje interno» comprimido dificulta la auditoría, y el revisor necesitará un glosario.