Nova York lança primeiro centro público de testes de IA dos EUA, com US$ 55 milhões

Enquanto Washington discute se as empresas de IA precisam de regras obrigatórias, Nova York começou a construir seu próprio sistema de avaliação. A governadora Kathy Hochul anunciou o lançamento do primeiro programa público dos Estados Unidos voltado a testes independentes de sistemas de IA e à formação de uma nova geração de especialistas em segurança de redes neurais. Se você desenvolve ou implementa produtos de IA que operam no estado, vale ler com atenção.

O que será lançado

O centro terá duas fontes de financiamento: Thomas Secunda, cofundador da Bloomberg, doará US$ 30 milhões, enquanto a SUNY, a Universidade Estadual de Nova York, e o governo estadual aportarão outros US$ 25 milhões. Ao todo, US$ 55 milhões. A capacidade computacional será fornecida pelo Empire AI, um consórcio público-privado com orçamento de US$ 500 milhões. Secunda preside seu conselho de administração.

Mais de 80 pesquisadores de destaque em IA de todo o estado trabalharão no programa. A responsabilidade formal cabe ao Centro de Responsabilidade e Pesquisa em IA da Universidade de Binghamton. O programa é liderado por Jeannette Wing, da Universidade Columbia, e Greg Morrisett, da Cornell Tech.

A ideia é simples: as autoridades precisam ter sua própria fonte de evidências. Antes, restava a elas confiar nos relatórios dos próprios desenvolvedores. Secunda afirma expressamente que o centro poderá testar os sistemas de forma independente e fornecer às autoridades materiais que fundamentem suas decisões. Hochul resumiu a questão assim: há muita coisa em jogo para confiar apenas na palavra das empresas de IA.

Por que agora

O contexto é político. O presidente Donald Trump rejeitou a adoção de medidas federais de proteção em IA e classificou as preocupações com segurança como uma “farsa”. Em vez de regras rígidas, optou-se por um sistema voluntário cujo conteúdo foi revelado apenas às empresas de tecnologia. Nova York responde com seus próprios instrumentos.

Os próprios modelos também geraram preocupação: segundo a fonte, eles já demonstraram capacidade de invadir sistemas de informação, enquanto pesquisadores de destaque de grandes laboratórios alertaram publicamente para os riscos. Wing aponta um desafio específico relacionado aos agentes. Enxames de agentes autônomos agem por conta própria e sem supervisão, o que exige métodos capazes de identificar antecipadamente quando estão prestes a causar danos e ajudar a evitá-los. Para quem desenvolve sistemas multiagentes, esse é um problema bastante conhecido: mesmo dentro da equipe, ainda é difícil rastrear exatamente o que um agente fez e por quê.

A relação com a lei RAISE

O centro deve começar a funcionar antes de 1º de janeiro de 2027, quando entrará em vigor a principal lei estadual de segurança em IA, a lei RAISE. Segundo a reportagem, as empresas de IA que operam em Nova York terão de apresentar estruturas detalhadas de segurança. O gabinete da governadora espera que os pesquisadores do novo centro analisem esses documentos minuciosamente.

Assim, o centro funcionará tanto como laboratório quanto como instância de análise especializada para o regulador. O anúncio não informa quais testes serão realizados, com quais critérios ou com quais consequências para as empresas. Esses detalhes serão divulgados mais adiante e determinarão como o sistema funcionará na prática.

O que fazer na prática

Primeiro, se você tem usuários ou operações em Nova York, é hora de descobrir se está sujeito à lei RAISE. É melhor pedir a um advogado que examine a lei antes de janeiro, e não depois.

Segundo, prepare um documento interno explicando como você avalia os riscos do modelo ou do sistema de agentes: quais testes executa, como restringe o acesso e o que faz quando ocorre uma falha. Se especialistas externos vão ler essas estruturas de segurança, formulações vagas dificilmente serão suficientes.

Terceiro, acompanhe a Califórnia. Nova York e Califórnia avançaram muito mais do que os demais estados na regulação das empresas de IA. Além disso, segundo a reportagem, os democratas no Congresso planejam intimar executivos de grandes empresas de IA e aprovar leis sobre segurança e controle de exportações. Regras regionais podem se tornar um padrão de fato, como aconteceu com o GDPR.

Há uma ressalva em toda essa história: por enquanto, trata-se de um anúncio. Não há uma lista de testes, nem sanções, nem confirmação de que as empresas vão colaborar de boa vontade. Mas a direção está clara: a avaliação independente de IA está se tornando uma função do poder público, e é melhor se preparar com antecedência.