Regulación de la IA: por qué hay que dejar de pelear contra el código y empezar a vigilar su uso

Los intentos de los políticos por domar la inteligencia artificial recuerdan hoy a querer prohibir las matemáticas o meter el océano en una botella. Desde 2021, cuando China publicó sus primeras normas sobre algoritmos, el mundo se ha convertido en un laboratorio de experimentos jurídicos. Europa ya está reescribiendo su recién estrenada EU AI Act, India implanta su propio sistema de gobernanza y en Estados Unidos los estados compiten con el Gobierno federal en la dureza de sus prohibiciones.

Pero entre tanto ruido se pierde una pregunta fundamental: ¿qué es exactamente lo que intentamos regular? Si seguimos centrándonos en los propios modelos, perderemos. Un control real solo será posible cuando empecemos a regular el uso de la IA, no su creación.

La idea de licenciar los modelos «de frontera» o restringir el acceso a los pesos abiertos es puro teatro de seguridad. Los artefactos digitales, como el código o los pesos de una red neuronal, no se pueden «despublicar». En cuanto llegan a la red, ya sea por una filtración o por un lanzamiento, copiarlos cuesta exactamente cero.

Intentar encerrar la IA dentro de las fronteras nacionales solo traerá dos consecuencias lamentables: las empresas que cumplen la ley se ahogarán en papeleo, mientras que a quienes les dan igual las normas simplemente pasarán a la clandestinidad o se irán a paraísos offshore. Además, en el marco jurídico de Estados Unidos, por ejemplo, el código suele equipararse a la libertad de expresión, y cualquier intento de prohibir su publicación acabará estrellándose contra los tribunales.

En su lugar necesitamos un enfoque pragmático basado en niveles de riesgo. Imaginemos un sistema en el que las exigencias crecen en proporción a la responsabilidad. Un chatbot corriente para escribir poemas o ayudar con los estudios debería funcionar con reglas básicas de transparencia y disponer de mecanismos de reclamación.

Pero en cuanto la IA empieza a intervenir en la contratación de personal o en la evaluación de la solvencia crediticia, lo que está en juego aumenta. Ahí ya hacen falta auditorías de datos, supervisión humana y una documentación clara de la «procedencia» del modelo. El control más estricto debe aplicarse a la medicina y la infraestructura crítica, donde los errores cuestan vidas.

En ese terreno no caben los discursos sobre libertad creativa: se necesitan pruebas rigurosas y monitorización constante.

La clave de una supervisión eficaz no está en perseguir a los desarrolladores, sino en controlar los «cuellos de botella» del sector. La IA solo se convierte en una fuerza real cuando se conecta con usuarios, dinero e infraestructura. Es precisamente ahí —en las tiendas de aplicaciones, los servicios en la nube, los sistemas de pago y las aseguradoras— donde los reguladores deben levantar sus barreras. Si para acceder a capacidad en la nube o a transacciones bancarias una empresa tiene que demostrar la seguridad de su solución de IA, el propio mercado se librará de los productos chapuceros y peligrosos. Esto generará una dinámica sana en la que la seguridad será una ventaja competitiva y no un estorbo.

Si se comparan los enfoques de distintos países, se ve que la verdad está en algún punto intermedio. Europa acierta en su empeño por proteger los derechos humanos, pero peca de exceso de burocracia. China ha aportado ideas sensatas sobre el etiquetado de contenido sintético y las herramientas forenses para verificar deepfakes, aunque sus métodos de censura son inaceptables para una sociedad libre. Debemos quedarnos con lo mejor: la transparencia sobre el origen de los archivos multimedia y el registro obligatorio de los métodos de control de riesgos para los servicios públicos. Así se podrá mantener el impulso innovador de las startups sin dejar a la sociedad indefensa ante el fraude automatizado o los ciberataques.

Lo esencial: regular modelos matemáticos es luchar contra fantasmas. La seguridad real empezará cuando la responsabilidad por las acciones de la IA recaiga en quienes la despliegan «sobre el terreno» y el control se traslade a los puntos donde los sistemas interactúan de verdad con las personas.