Seguridad aérea en piloto automático: Trump pone a la IA a redactar normas

«Inundar la zona»: así describen la nueva estrategia en el Departamento de Transporte de EE. UU. Mientras el mundo tecnológico debate si ChatGPT sustituirá a los programadores, la Administración Trump ha decidido jugárselo todo a una carta y confiar a las redes neuronales lo más sagrado: la seguridad aérea. La idea es de un cinismo simple: si la maquinaria estatal no sigue el ritmo del mercado, basta con pulsar el botón de «generar». No es solo un intento de optimizar el trabajo de los funcionarios: supone un giro radical en la forma de crear las reglas por las que vuela todo el mundo.

Históricamente, las normas de seguridad aérea se han escrito, literalmente, con sangre. Cada coma de los reglamentos de la FAA (Administración Federal de Aviación) apareció tras investigaciones minuciosas de accidentes, años de pruebas y interminables trámites de aprobación. Es un proceso lento y penoso, pero contrastado durante décadas. Ahora quieren convertirlo en una cadena de montaje. Los funcionarios planean usar grandes modelos de lenguaje para redactar nuevas normas y revisar las antiguas, con el fin de eliminar la «regulación excesiva» en plazos récord. La lógica es sencilla: cuanto antes se retiren las barreras, antes despegará el negocio.

El problema es que la IA no es jurista ni ingeniero aeronáutico. Es una compleja máquina estadística que predice la siguiente palabra de una frase. Cuando una máquina así escribe el código de un juego móvil, el riesgo son fallos en la interfaz. Cuando redacta las normas de operación de componentes complejos de un avión, el riesgo recae sobre cientos de personas a bordo. El principal argumento de los partidarios de la reforma es que la IA puede analizar miles de páginas de documentación más rápido que cualquier plantilla de abogados. Pero ¿entiende el algoritmo el contexto de la seguridad como lo entiende una persona que ha visto las consecuencias de los errores técnicos?

Esta medida parece un intento de desregulación total bajo la apariencia del progreso tecnológico. En la aviación existe desde hace tiempo el concepto de «captura regulatoria», cuando las empresas supervisadas empiezan a dictar las condiciones a los supervisores. Usar una IA entrenada con textos creados, entre otros, por los grupos de presión de los gigantes de la aviación puede convertir al organismo regulador en una impresora automática de intereses corporativos. Además, ningún funcionario está dispuesto por ahora a asumir la responsabilidad por las posibles «alucinaciones» del algoritmo en un texto jurídico.

Resulta especialmente irónico que todo esto ocurra en plena crisis prolongada de confianza en la industria aeronáutica. Tras la serie de incidentes con Boeing, el mundo esperaba más control y verificaciones más rigurosas, no su automatización. Sin embargo, la nueva Administración está convencida de que la velocidad importa más que los procedimientos. Si el experimento en el Departamento de Transporte tiene éxito, veremos un enfoque similar en todos los ámbitos, de la medicina a la ecología. Las leyes se escribirán más rápido de lo que podamos leerlas, y mucho menos de lo que podamos entender sus consecuencias a largo plazo.

La cuestión principal ni siquiera es si la IA cometerá un error. Lo cometerá: está en la naturaleza de la tecnología. La cuestión es si en esta cadena seguirá habiendo una persona capaz de pisar el freno a tiempo. Por ahora, «inundar la zona» parece un intento de derribar el viejo orden sin construir un sustituto fiable. Entramos en una era en la que la seguridad aérea puede empezar a depender de lo acertado que sea el prompt que escriba un funcionario de rango medio un lunes por la mañana.

Lo principal: ¿está la sociedad preparada para que las leyes las escriban algoritmos sin reflexión humana?