Regulación de la IA: por qué es hora de dejar de luchar contra el código y empezar a vigilar las manos

Los intentos de los políticos de domesticar la inteligencia artificial hoy se parecen a intentos de prohibir las matemáticas o embotellar el océano. Desde 2021, cuando China lanzó sus primeras normas para algoritmos, el mundo se ha convertido en un laboratorio de experimentos legales. Europa ya está reescribiendo su fresco EU AI Act, India está implementando un sistema de gobernanza, y en EE.

UU. los estados compiten con el gobierno federal sobre la rigidez de las restricciones. Pero en medio de todo este ruido, se pierde una pregunta fundamental: ¿qué es exactamente lo que estamos intentando regular?

Si continuamos enfocándonos en los modelos en sí, perderemos. El control real es solo posible cuando comenzamos a regular el uso de la IA, no su creación.

La idea de licenciar modelos "fronterizos" o restringir el acceso a pesos abiertos es puro teatro de seguridad. Los artefactos digitales, como código de software o pesos de redes neuronales, no pueden "despublicarse". Una vez que se filtran o se lanzan a la red, copiarlos cuesta exactamente cero.

Los intentos de encerrar la IA dentro de las fronteras nacionales solo llevarán a dos consecuencias desafortunadas: las empresas que cumplen las normas se ahogarán en la burocracia, y aquellos a los que no les importan las normas simplemente irán a la clandestinidad u offshore. Además, en el ámbito legal de Estados Unidos, el código a menudo se equipara con la libertad de expresión, y cualquier intento de prohibir su publicación inevitablemente chocará contra demandas judiciales.

En cambio, necesitamos un enfoque pragmático basado en niveles de riesgo. Imagine un sistema donde los requisitos crecen proporcionalmente a la responsabilidad. Un chatbot ordinario para escribir poesía o ayudar con los estudios debe operar bajo reglas básicas de transparencia y tener mecanismos de quejas.

Pero tan pronto como la IA comienza a ayudar en la contratación de empleados o en la evaluación de la solvencia crediticia, las apuestas aumentan. Aquí, se hacen necesarias auditorías de datos, supervisión humana y documentación clara de la "procedencia" del modelo. El control más estricto debe concernir a la medicina e infraestructura crítica, donde los errores cuestan vidas.

Aquí, las conversaciones sobre libertad creativa están fuera de lugar—se necesitan pruebas rigurosas y monitoreo continuo.

La clave para una supervisión eficaz no está en perseguir a los desarrolladores, sino en controlar los "cuellos de botella" de la industria. La IA se convierte en una fuerza real solo cuando se conecta con usuarios, dinero e infraestructura. Es aquí—en tiendas de aplicaciones, servicios en la nube, sistemas de pago y compañías de seguros—donde los reguladores deben colocar sus barreras. Si las empresas tienen que demostrar la seguridad de sus soluciones de IA para acceder a la potencia computacional en la nube o las transacciones bancarias, el mercado se limpiará de productos peligrosos. Esto creará una dinámica saludable donde la seguridad se convierte en una ventaja competitiva, no un obstáculo molesto.

Comparando los enfoques de diferentes países, se puede ver que la verdad está en algún lugar en el medio. Europa tiene razón en su deseo de proteger los derechos humanos, pero es excesivamente burocrática. China ha ofrecido ideas sensatas sobre el marcado de contenido sintético y herramientas forenses para verificar deepfakes, aunque sus métodos de censura son inaceptables para una sociedad libre. Necesitamos tomar lo mejor: transparencia en el origen de los archivos multimedia y registro obligatorio de métodos de control de riesgos para servicios públicos. Esto nos permitirá preservar el impulso innovador de las startups mientras no dejamos a la sociedad indefensa ante el fraude automatizado o los ciberataques.

Lo principal: regular modelos matemáticos es luchar contra fantasmas. La seguridad real comenzará cuando la responsabilidad de las acciones de la IA recaiga en quienes la liberan "en el campo", y el control se traslade a los puntos de interacción real entre sistemas y humanos.