Bloomberg repasa cómo regular la IA: desde los informes de incidentes hasta la prohibición

El debate sobre la regulación de la IA hace tiempo que dejó de ser un «regular o no regular». Ahora la discusión es en qué punto de la escala de severidad detenerse. Bloomberg Tech ha reunido las opciones en una sola guía: en el extremo blando, la obligación de informar sobre problemas de seguridad; en el duro, la prohibición directa de la «superinteligencia». El recuadro original aporta pocos detalles, así que a continuación desglosamos esa escala con ejemplos de leyes que ya se han aprobado o que se han debatido. El umbral de 10^25 FLOPs del AI Act europeo y las multas de hasta el 7% de la facturación mundial demuestran que no se trata de algo abstracto.

El extremo blando: informes y pruebas

La medida más realista consiste en la obligación de revelar incidentes. Cuesta poco al Estado y no impide lanzar productos. Así funciona la SB 53 de California, firmada en septiembre de 2025: los grandes desarrolladores de modelos frontier publican sus protocolos de seguridad y comunican al regulador los incidentes críticos. Las infracciones conllevan multas de hasta $1 millón.

El siguiente escalón exige pruebas previas y auditoría independiente. Aquí surgen las preguntas más espinosas: quién verifica, con qué metodologías y con qué acceso a los pesos del modelo. El AI Act europeo siguió este camino para los modelos de propósito general con «riesgo sistémico». Para ellos el criterio es uno solo: haber sido entrenados con un presupuesto de cómputo superior a 10^25 FLOPs.

Conjunto típico de herramientas blandas y medias:

• informes obligatorios sobre incidentes de seguridad;
• publicación de los protocolos internos de evaluación de riesgos;
• pruebas previas de capacidades peligrosas (biología, ciberataques);
• protección de los empleados que denuncian infracciones;
• multas vinculadas a la facturación (en el AI Act, hasta el 7% de la facturación mundial por prácticas prohibidas).

El extremo duro: kill switch y prohibición

La idea de un interruptor de emergencia suena sencilla, pero en la práctica depende de la arquitectura. El proyecto de ley SB 1047, que el gobernador de California, Newsom, vetó en 2024, exigía la posibilidad de apagar por completo un modelo. Afectaba a sistemas con un coste de entrenamiento de $100 millones o más y una potencia superior a 10^26 FLOPs.

Si el modelo funciona mediante API en los servidores de la empresa, se puede cortar el acceso. Si los pesos son públicos, ya no se pueden retirar las copias y el «interruptor» queda en una mera declaración. Los críticos usan precisamente este argumento; los defensores responden que lo que hay que regular es el propio derecho a publicar los pesos de los sistemas más potentes.

La postura más radical es prohibir el desarrollo de la «superinteligencia» hasta que exista un consenso científico sobre su seguridad. En octubre de 2025 lanzó este llamamiento el Future of Life Institute, y entre los firmantes figuran Geoffrey Hinton y Yoshua Bengio. Pero es una petición, no un proyecto de ley. Ni siquiera existe una definición consensuada de dónde está la frontera entre un modelo potente y la «superinteligencia». Sin ella, cualquier prohibición es difícil de redactar y todavía más de aplicar.

Cómo prepararse

Los equipos que construyen productos sobre LLM no tienen motivo para esperar a la versión final de las normas. Ya conviene llevar un registro de incidentes: fallos del modelo, filtraciones de datos, casos de respuestas dañinas. Hay que documentar los resultados de las pruebas y mantener un circuito desconectable para los agentes con acceso a sistemas reales, ya sean pagos, código o infraestructura.

Para las empresas que trabajan con modelos mediante API, el principal riesgo está en el proveedor: si este supera el umbral de regulación, cambiarán las condiciones de acceso, los límites y los precios. Los inversores y los product managers deberían fijarse no en las prohibiciones llamativas, sino en los aburridos requisitos de información. Serán ellos los que determinen en los próximos años el coste del cumplimiento normativo.