Nueva York pone en marcha el primer centro público de pruebas de IA de EE. UU., con 55 millones de dólares

Mientras en Washington se debate si las empresas de IA necesitan normas obligatorias, Nueva York ha empezado a construir su propio sistema de evaluación. La gobernadora Kathy Hochul ha anunciado la puesta en marcha del primer programa público de Estados Unidos dedicado a las pruebas independientes de sistemas de IA y a la formación de una nueva generación de expertos en seguridad de redes neuronales. Si desarrollas o implementas productos de IA que operan en el estado, conviene leerlo con atención.

Qué se pone en marcha exactamente

El centro tendrá dos fuentes de financiación: Thomas Secunda, cofundador de Bloomberg, donará 30 millones de dólares, y SUNY, la Universidad Estatal de Nueva York, junto con el Gobierno del estado, aportará otros 25 millones. En total, 55 millones de dólares. La capacidad de cómputo la proporcionará Empire AI, un consorcio público-privado con un presupuesto de 500 millones de dólares. Secunda preside su consejo de administración.

En el programa trabajarán más de 80 destacados investigadores de IA de todo el estado. La responsabilidad formal recae en el Centro de Responsabilidad e Investigación en IA de la Universidad de Binghamton. El programa está dirigido por Jeannette Wing, de la Universidad de Columbia, y Greg Morrisett, de Cornell Tech.

La idea es sencilla: las autoridades deben disponer de su propia fuente de pruebas. Hasta ahora, apenas les quedaba otra opción que confiar en los informes de los propios desarrolladores. Secunda afirma expresamente que el centro podrá evaluar los sistemas de forma independiente y proporcionar a las autoridades información en la que basar sus decisiones. Hochul lo expresó así: hay demasiado en juego como para fiarse de la palabra de las empresas de IA.

Por qué ahora

El contexto es político. El presidente Donald Trump rechazó introducir medidas federales de protección en materia de IA y calificó las preocupaciones por la seguridad de «engaño». En lugar de normas estrictas, se ha optado por un sistema voluntario cuyo contenido solo se ha dado a conocer a las empresas tecnológicas. Nueva York responde con sus propios instrumentos.

Los propios modelos también han despertado inquietud: según la fuente, ya han demostrado capacidad para vulnerar sistemas informáticos, mientras que destacados investigadores de grandes laboratorios han advertido públicamente de los riesgos. Wing señala otro desafío relacionado con los agentes. Los enjambres de agentes autónomos actúan por su cuenta y sin supervisión, por lo que hacen falta métodos capaces de detectar con antelación cuándo se disponen a causar daño y de ayudar a evitarlo. Para quienes desarrollan sistemas multiagente, el problema resulta muy familiar: incluso dentro del propio equipo sigue siendo difícil rastrear qué hizo exactamente un agente y por qué.

La relación con la ley RAISE

Está previsto que el centro empiece a funcionar antes del 1 de enero de 2027, cuando entrará en vigor la principal ley de seguridad de IA del estado, la ley RAISE. Según la información publicada, las empresas dedicadas a la IA que operen en Nueva York deberán presentar marcos de seguridad detallados. La oficina de la gobernadora espera que los investigadores del nuevo centro examinen minuciosamente esos documentos.

Así, el centro funcionará como laboratorio y también como instancia de evaluación experta para el regulador. El anuncio no especifica qué pruebas realizará, con qué criterios ni qué consecuencias podrían tener para las empresas. Esos detalles se conocerán más adelante y determinarán cómo funcionará el sistema en la práctica.

Qué hacer en la práctica

En primer lugar, si tienes usuarios u operaciones en Nueva York, es hora de averiguar si te afecta la ley RAISE. Conviene que un abogado revise la ley antes de enero, no después.

En segundo lugar, prepara un documento interno que explique cómo evalúas los riesgos del modelo o del sistema de agentes: qué pruebas realizas, cómo restringes el acceso y qué haces cuando se produce un fallo. Si expertos externos van a leer esos marcos, es poco probable que basten las formulaciones vagas.

En tercer lugar, sigue de cerca a California. Nueva York y California se han adelantado considerablemente al resto de los estados en la regulación de las empresas de IA. Además, según la información publicada, los demócratas del Congreso planean citar mediante requerimiento judicial a los directivos de las grandes empresas de IA y aprobar leyes de seguridad y control de exportaciones. Las normas regionales podrían convertirse en un estándar de facto, como ocurrió con el RGPD.

Toda esta iniciativa tiene una salvedad: por ahora es un anuncio. No hay una lista de pruebas, ni sanciones, ni confirmación de que las empresas vayan a colaborar de buen grado. Pero la dirección está clara: la evaluación independiente de la IA se está convirtiendo en una función pública y conviene prepararse con antelación.