Illinois aprueba la ley de IA más estricta de EE. UU.: las auditorías de seguridad serán obligatorias

Illinois se ha convertido en el primer estado de EE. UU. en aprobar una ley integral sobre seguridad de la IA. Los legisladores exigen a OpenAI, Anthropic, Google y organizaciones similares que demuestren ante terceros que cumplen estrictos estándares de seguridad. La ley busca crear un mecanismo de control transparente en una industria que avanza rápido y donde los riesgos a menudo no están claros ni siquiera para los propios desarrolladores.

Qué exige la nueva ley

El proyecto obliga a los desarrolladores de grandes modelos de lenguaje y sistemas de inteligencia artificial a someterse a auditorías de seguridad independientes. Los terceros son empresas u organizaciones especializadas que deben confirmar de forma objetiva que las compañías siguen los estándares de protección establecidos. La ley define áreas de revisión obligatorias y reglas de cumplimiento transparentes que van mucho más allá de las evaluaciones internas de las empresas.

Los requisitos de la ley abarcan varias áreas clave:

• Revisión independiente de los algoritmos para detectar sesgos, discriminación e impacto desigual en grupos de población
• Pruebas de resistencia frente al uso malicioso, la manipulación, la ingeniería social y los abusos
• Evaluación del impacto potencial en el mercado laboral, la educación, la desigualdad social y la sociedad en su conjunto
• Documentación de las medidas de seguridad, los mecanismos de control, la gestión de riesgos, la rendición de informes y la responsabilidad
• Divulgación pública de los resultados de las auditorías, las vulnerabilidades halladas y las medidas de mejora

La ley establece la actualización periódica obligatoria de las auditorías: como mínimo una vez al año o ante cambios significativos del sistema. Esto es necesario para seguir la evolución de los sistemas de IA, los nuevos tipos de riesgo y los usos emergentes que pueden crear problemas imprevistos.

Historia y contexto actual

Hasta ahora, EE. UU. no tenía una ley federal única sobre seguridad de la IA, aunque el Congreso debate varias propuestas. Varios estados intentaron adoptar sus propias medidas, pero Illinois es el primero en crear una norma realmente integral y vinculante, y no meras recomendaciones o estándares voluntarios.

Esto ocurre en un contexto de presión creciente de activistas, científicos independientes, empleados de empresas tecnológicas y políticos que piden un control más estricto sobre el desarrollo de sistemas de IA potentes. Los escándalos por algoritmos discriminatorios, filtraciones de datos y manipulación han demostrado que la autorregulación del sector no basta.

El gobernador JB Pritzker ya ha expresado oficialmente su disposición a firmar el proyecto, lo que significa que entrará en vigor y empezará a aplicarse en la práctica. Podría sentar un precedente importante para otros estados e influir de forma notable en la regulación federal de la IA en todo el país.

Qué significa para las empresas

Compañías como OpenAI y Anthropic ya trabajan en estándares internos de seguridad y realizan autoevaluaciones con regularidad, pero la ley introduce por primera vez un control externo obligatorio a cargo de terceros independientes. Esto crea un mecanismo de verificación objetivo, más difícil de eludir o manipular que los informes internos.

Para las startups y las empresas de IA más pequeñas, esto puede suponer costes adicionales en auditorías y consultoría profesionales, pero a la vez facilitará su entrada en el mercado. Podrán usar estándares aprobados y probados en lugar de desarrollar procesos propios.

La ley puede complicar las operaciones de las empresas de IA en Illinois y aumentar los costes de cumplimiento. En teoría, podría llevar a algunos actores a trasladar su sede a estados con una regulación más laxa. Pero las compañías que ya han invertido en seguridad, transparencia y ética obtendrán una ventaja competitiva: podrán superar las auditorías y obtener la certificación más rápido.

Efecto global

Illinois demuestra que los estados de EE. UU. están dispuestos a regular la IA por su cuenta ante la ausencia de una ley federal sólida. Este precedente podría acelerar la adopción de leyes similares en otras regiones de EE. UU. y en otros países, y dar forma poco a poco a estándares de seguridad globales de facto.

La Unión Europea ya elabora su AI Act con requisitos de documentación y transparencia, pero la ley de Illinois muestra que la regulación puede ser descentralizada. Cada región fija sus propios requisitos y estándares de cumplimiento. Esto crea un panorama complejo pero potencialmente sano para las empresas globales, que ahora deben adaptarse a requisitos distintos al mismo tiempo.

Qué significa

La aprobación de la ley en Illinois es una señal importante de que la era de la autorregulación de la IA llega a su fin. La sociedad, los reguladores e incluso los propios desarrolladores exigen transparencia y responsabilidad. Esta ley podría servir de modelo para otras regiones y convertir poco a poco la seguridad de la IA de una práctica voluntaria en una norma obligatoria, como ocurrió en el pasado con otras tecnologías críticas.