El fracaso de los agentes de IA: las matemáticas demuestran que nunca serán fiables

¿Recuerdan cómo, el año pasado, todo el mundo dejó de hablar de chatbots y empezó a soñar con «agentes»? Nos prometieron que la IA pronto reservaría billetes, escribiría código para departamentos enteros y gestionaría cadenas de suministro mientras nosotros tomamos un batido. Resulta que las matemáticas opinan otra cosa, y es bastante desagradable para quienes ya han reescrito sus planes de negocio en torno a la «autonomía total».

Un grupo de investigadores ha publicado un trabajo que golpea el punto más sensible de la industria: la imposibilidad matemática de que los agentes de IA autónomos funcionen de forma fiable. El problema no es que los modelos sean «tontos» o que les falten datos de entrenamiento de Reddit. El problema está en la propia estructura de las tareas secuenciales. Si le pides a una IA que haga algo en un solo paso, la probabilidad de éxito es alta. Pero en cuanto montas una cadena de diez acciones, empieza el implacable terror de la teoría de la probabilidad.

Imagina que cada paso del agente se ejecuta con un 95% de precisión. Suena bien, ¿verdad? Entre humanos, es nivel de sobresaliente. Pero en una cadena de diez pasos, la probabilidad total de éxito cae por debajo del 60%. ¿Y si son cien pasos? La probabilidad de que el agente llegue hasta el final sin convertir tu proyecto en basura digital tiende a cero. Esto se llama «acumulación catastrófica de errores» y, por lo que parece, no se cura simplemente ampliando la ventana de contexto ni añadiendo otra remesa de GPU H100.

La industria se encuentra ahora en una posición extrañísima. Por un lado, capitalistas de riesgo que inyectan miles de millones en startups como Cognition, que prometen «el primer ingeniero de IA del mundo». Por otro, las matemáticas, secas, que dicen: «Chicos, esto no va a funcionar como lo dibujáis en las presentaciones». Intentamos levantar un rascacielos sobre un pantano, con la esperanza de que, si la fachada queda más bonita, los cimientos se endurezcan por sí solos.

Lo más irónico es que las empresas siguen vendiendo la «autonomía» como función estrella. En la práctica, obtenemos sistemas que exigen vigilancia constante. No es una liberación de la rutina, sino una nueva forma de supervisión, en la que el humano se convierte en corrector perpetuo de un algoritmo medio loco. Si un agente se equivoca en el 5% de los casos, pero lo hace en silencio y con absoluta seguridad de tener razón, resulta más peligroso que el empleado más holgazán e incompetente. El error de una persona se puede predecir; el de un modelo estadístico, no.

Antes nos maravillaba que una red neuronal escribiera poemas o explicara física cuántica. Era divertido, pero prácticamente inútil para la producción real. Después llegó la era de los agentes. La idea era simple: dar al modelo herramientas (un navegador, una terminal, acceso a API) y dejarlo actuar. Eso convirtió a la IA de «loro inteligente» en «becario digital». Pero, como se ha visto, este becario sufre una forma grave de distracción progresiva que lleva incorporada en las fórmulas.

¿Qué significa esto para nosotros a corto plazo? Lo más probable es que la era del «pulsa un botón y obtén un resultado» se aplace indefinidamente. Tendremos que replantear la arquitectura de la IA: pasar de la autonomía total a módulos estrictamente controlados, en los que cada paso se verifique no con otra IA, sino con métodos formales o con una persona. A las matemáticas no se las engaña con vídeos de demostración llamativos en X (antes Twitter). El camino hacia una inteligencia real, capaz de actuar con fiabilidad, pasa por entender las relaciones causales, no por adivinar simplemente el siguiente token.

Lo esencial: los agentes de IA, tal como son hoy, son una trampa estadística. Mientras no resolvamos el problema de la acumulación de errores, la «autonomía» seguirá siendo una atracción cara y poco fiable para inversores. ¿Esperamos a que el hype choque por fin con la realidad?