MIT Technology Review: ¿estamos listos para dar poder real a los agentes de IA?

La redacción de MIT Technology Review ha publicado un eBook cerrado con una pregunta provocadora: ¿estamos listos para entregar a los agentes de IA poder real sobre tareas, datos, procesos de negocio y, en última instancia, las consecuencias de sus actos? El compendio reúne las opiniones de destacados expertos y se convirtió en uno de los materiales más citados de la publicación este año.

Los agentes ya no esperan órdenes

Los agentes de IA han dejado de ser un concepto de informes de laboratorio. OpenAI, Anthropic, Google, Microsoft y decenas de startups han lanzado sistemas que usan el navegador por su cuenta, escriben y ejecutan código, gestionan archivos, envían correos e interactúan con servicios externos, sin confirmación explícita de cada paso.

El agente ya no espera una orden. Recibe un objetivo y avanza hacia él, tomando por sí mismo decisiones intermedias. Este cambio altera la naturaleza misma de la relación entre las personas y el software: dejamos de ser operadores de una interfaz y pasamos a delegar responsabilidad.

Ya hay ejemplos en producción: Operator, de OpenAI, reserva restaurantes y rellena formularios; Claude Computer Use controla aplicaciones de escritorio; y Google Gemini ejecuta de forma autónoma cadenas de tareas en Workspace. No es un modo demo: los agentes gestionan procesos reales en organizaciones reales.

Qué dicen los expertos

Este es precisamente el tema que explora el eBook de MIT Technology Review, con la participación de destacados especialistas en seguridad, ética y desarrollo de IA. Una de las tesis clave que cita la publicación:

«Si seguimos por el camino actual, básicamente estamos jugando a la

ruleta rusa con la humanidad».

No es una frase de una novela distópica, sino la postura de investigadores en activo que trabajan a diario con sistemas agénticos. Señalan varias categorías concretas de riesgo:

• Pérdida de trazabilidad: en escenarios multiagente es difícil establecer quién tomó cada decisión intermedia
• Opacidad: al delegar tareas complejas, a menudo la persona no entiende por qué el agente eligió ese camino
• Errores de alto riesgo: transacciones financieras, recomendaciones médicas, documentos legales
• Prompt injection: los agentes que trabajan con datos externos pueden ser manipulados a través de esos mismos datos
• Ausencia de estándares: todavía no existen requisitos sectoriales unificados de seguridad para las arquitecturas agénticas

Entre la velocidad y la cautela

Las empresas responden a estos desafíos de formas distintas. Algunas, sobre todo Anthropic, apuestan por mecanismos de control multicapa, restricciones constitucionales para los modelos y el principio human-in-the-loop en las decisiones críticas. Otros actores sacrifican la cautela en favor de la rapidez de llegada al mercado: los competidores no esperan, todavía no ha habido un gran fracaso público, y eso por sí solo es una situación peligrosa.

Los reguladores de Estados Unidos y la Unión Europea apenas empiezan a formar una postura sobre los sistemas agénticos. La AI Act europea cubre parcialmente los usos de alto riesgo, pero todavía no regula de forma explícita las arquitecturas agénticas como una clase aparte. Mientras los legisladores afinan la terminología, los productos ya funcionan en empresas reales y gestionan procesos reales, a menudo sin una política clara de responsabilidad.

Qué significa

Entramos en una fase en la que los agentes de IA reciben poder real antes de que la sociedad haya fijado las reglas del juego y de que las empresas hayan definido estándares de implantación segura. Las preguntas que MIT Technology Review plantea en el eBook no son un debate académico. Son una agenda a la que ya se enfrentan hoy los equipos de producto, los servicios jurídicos y los directivos que toman decisiones sobre automatización.

Y la respuesta a la pregunta «¿estamos listos?» depende en buena medida de cuán en serio se tome la industria las advertencias de sus propios expertos.