New York lance le premier centre public de test de l'IA aux États-Unis, doté de 55 millions de dollars

Pendant qu'à Washington on se demande si les entreprises d'IA ont besoin de règles obligatoires, New York a simplement commencé à construire son propre système de vérification. La gouverneure Kathy Hochul a annoncé le lancement du premier programme public américain de test indépendant des systèmes d'IA et de formation d'une nouvelle génération d'experts en sécurité des réseaux de neurones. Si vous développez ou déployez des produits d'IA qui fonctionnent dans l'État, cela mérite une lecture attentive.

Ce qui est lancé exactement

Le centre sera financé par deux sources : 30 millions de dollars seront donnés par Thomas Secunda, cofondateur de Bloomberg, et 25 millions de dollars supplémentaires seront apportés par la SUNY (l'université publique de l'État) et les autorités de New York. Au total, 55 millions de dollars. La puissance de calcul sera fournie par Empire AI, un consortium public-privé doté d'un budget de 500 millions de dollars. Thomas Secunda préside son conseil d'administration.

Plus de 80 chercheurs de premier plan en IA de tout l'État travailleront sur le programme. Officiellement, la responsabilité incombe au Centre pour une IA responsable et la recherche en IA de l'Université de Binghamton. Le programme est dirigé par Jeannette Wing, de l'Université Columbia, et Greg Morrisett, de Cornell Tech.

L'idée est simple : les responsables publics doivent disposer de leur propre source de preuves. Jusqu'ici, ils devaient se fier aux rapports des développeurs eux-mêmes. Thomas Secunda affirme sans détour que le centre pourra tester les systèmes de façon indépendante et fournir aux autorités des éléments sur lesquels elles pourront s'appuyer. Kathy Hochul l'a formulé ainsi : les enjeux sont trop importants pour croire les entreprises d'IA sur parole.

Pourquoi maintenant

Le contexte est politique. Le président Donald Trump a refusé d'instaurer des mesures fédérales de protection dans le domaine de l'IA et a qualifié les inquiétudes en matière de sécurité de « canular ». Au lieu de règles strictes, c'est un système volontaire qui a été retenu, dont le contenu n'a été dévoilé qu'aux entreprises technologiques. New York y répond avec ses propres leviers.

Les modèles eux-mêmes ont aussi alimenté l'inquiétude : selon la source, ils ont déjà démontré leur capacité à pirater des systèmes d'information, et des chercheurs de premier plan de grands laboratoires ont publiquement mis en garde contre les risques. Un autre défi, évoqué par Jeannette Wing, concerne les agents. Des essaims d'agents autonomes agissent seuls et sans supervision ; il faut des méthodes capables de repérer à l'avance que des agents s'apprêtent à causer des dommages, et d'aider à l'empêcher. Pour ceux qui construisent des systèmes multi-agents, c'est une douleur bien connue : retracer ce que l'agent a fait et pourquoi reste difficile, même au sein d'une équipe.

Le lien avec le RAISE Act

Le centre doit être lancé avant le 1er janvier 2027, date d'entrée en vigueur de la principale loi de l'État sur la sécurité de l'IA, le RAISE Act. D'après l'annonce, les entreprises qui travaillent à New York et développent de l'IA devront fournir des cadres de sécurité détaillés. Le cabinet de la gouverneure s'attend à ce que les chercheurs du nouveau centre examinent ces documents de près.

Autrement dit, le centre sera non seulement un laboratoire, mais aussi un organe d'expertise au service du régulateur. L'annonce ne précise ni quels tests il réalisera, ni selon quels critères, ni avec quelles conséquences pour les entreprises. Ces détails seront connus plus tard, et c'est précisément là que se jouera toute la pratique.

Que faire concrètement

Premièrement, si vous avez des utilisateurs ou des activités à New York, il est temps de vérifier si vous relevez du RAISE Act. Mieux vaut montrer la loi à un juriste avant janvier plutôt qu'après.

Deuxièmement, préparez un document interne décrivant la façon dont vous évaluez les risques de votre modèle ou de votre système d'agents : quels tests vous exécutez, comment vous limitez l'accès et ce que vous faites en cas de défaillance. Puisque des experts externes liront ces cadres, des formulations vagues ont peu de chances de passer.

Troisièmement, surveillez la Californie. New York et la Californie ont nettement devancé les autres États dans la régulation des entreprises d'IA, et les démocrates du Congrès prévoiraient, selon l'annonce, de citer à comparaître les dirigeants des grandes entreprises d'IA et d'adopter des lois sur la sécurité et le contrôle des exportations. Les règles régionales peuvent devenir un standard de fait, comme cela s'est produit avec le RGPD.

L'ensemble comporte une limite : pour l'instant, il ne s'agit que d'une annonce. Pas de liste de tests, pas de sanctions, aucune confirmation que les entreprises coopéreront volontiers. Mais la direction est claire : la vérification indépendante de l'IA devient une fonction de l'État, et mieux vaut s'y préparer à l'avance.