El fundador de Moderna exige regular ya a los agentes de IA, antes de la primera catástrofe

Noubar Afeyan, cofundador de Moderna y multimillonario del sector biotecnológico, ha pedido regular de inmediato a los agentes de IA que las tecnológicas ya venden a sus clientes. Su argumento nace de la experiencia de su propio sector: si se espera a una catástrofe para escribir las reglas después, se repetirá la historia de la industria farmacéutica. Lo informa Bloomberg.

La nota es breve. El texto disponible no revela qué propone exactamente Afeyan: qué requisitos, qué regulador ni en qué plazos. Por eso, a continuación solo figura lo que se sabe con certeza y una explicación de por qué la comparación con la farmacéutica no es casual.

Quién habla y por qué se le escucha

Afeyan es cofundador y presidente de Moderna, además de fundador del estudio de capital riesgo Flagship Pioneering. Sabe cómo es el camino de un producto desde el laboratorio hasta el mercado masivo bajo la supervisión de reguladores como la FDA. Entre las compañías de Flagship hay algunas que aplican IA al desarrollo de fármacos. Es la voz de alguien que viene de un sector estrictamente regulado y que, al mismo tiempo, tiene interés en que la tecnología se desarrolle.

Qué enseña la historia de la farmacéutica

Las normas farmacéuticas rara vez llegaron por adelantado. Normalmente les precedió una tragedia.

• 1937, Estados Unidos: el Elixir Sulfanilamide, un medicamento cuyo disolvente era tóxico, causó más de cien muertes. Poco después se aprobó la ley de 1938, que obligó a los fabricantes a demostrar la seguridad del producto antes de comercializarlo.
• Finales de los años 50 y principios de los 60: la talidomida provocó malformaciones en miles de niños en todo el mundo. En Estados Unidos, la respuesta fueron las enmiendas Kefauver-Harris de 1962, que añadieron la exigencia de demostrar la eficacia del fármaco.

En ambos casos, el sistema de supervisión se creó a raíz del daño. Según el mensaje de Bloomberg, Afeyan propone no esperar a que ocurra lo mismo con la IA.

Por qué los agentes se diferencian de los chatbots

Un chatbot genera texto y es la persona quien decide qué hacer con él. Un agente actúa por sí mismo: hace compras, escribe y ejecuta código, envía correos y accede a sistemas corporativos y cuentas. Aquí, el error del modelo se convierte en una acción que no siempre se puede deshacer. Cuantas más atribuciones recibe el agente, mayor es el coste de un fallo y más difícil resulta determinar quién responde: el desarrollador del modelo, el proveedor de la plataforma o la empresa que implantó el producto.

En la mayoría de las jurisdicciones todavía hay pocos requisitos específicos para agentes. Existen marcos generales para la IA, pero se redactaron para modelos y sistemas en su conjunto, no para programas que ejecutan por su cuenta cadenas de acciones.

Hechos clave

• Quién: Noubar Afeyan, cofundador de Moderna y fundador de Flagship Pioneering.
• Qué exige: regulación urgente de los agentes de IA que venden las tecnológicas.
• Argumento: esperar a la catástrofe repetirá los errores de la farmacéutica.
• Fuente: Bloomberg, 13 de octubre de 2026.
• No se revela: las medidas concretas, el regulador y los plazos.

Qué deben hacer las empresas que ya implantan agentes

No hace falta esperar a la ley: la farmacéutica ya ofrece prácticas que funcionan.

Primero: limite los permisos. El agente debe recibir el mínimo de accesos, y las operaciones irreversibles, como pagos, borrado de datos o envío de correos externos, deben requerir la confirmación de una persona.

Segundo: lleve un registro. Cada acción del agente debe quedar anotada de modo que, tras un fallo, se pueda reconstruir la cadena de decisiones.

Tercero: despliegue por fases. Igual que en las fases de los ensayos clínicos, empiece con una tarea acotada y un grupo limitado de usuarios, y amplíe el ámbito de responsabilidad solo después de comprobarlo con datos reales.

Cuarto: defina de antemano quién responde por los daños y déjelo por escrito en los contratos con los proveedores. Si llega la regulación, las empresas que ya cuenten con auditoría y una responsabilidad clara saldrán ganando.