Google, Microsoft e xAI vão permitir que os EUA avaliem modelos de IA antes do lançamento

Google DeepMind, Microsoft e xAI concordaram em permitir que o governo americano avalie novos modelos de IA antes do lançamento público. Isso significa que a avaliação governamental prévia deixa de ser um programa experimental e passa a ser uma etapa obrigatória do desenvolvimento para as maiores empresas.

Como funciona a avaliação

O Center for AI Standards and Innovation (CAISI), ligado ao Departamento de Comércio dos EUA, faz avaliações prévias de novos modelos de IA bem antes do lançamento público. O órgão analisa as capacidades dos sistemas em programação, matemática e tarefas científicas, identifica riscos potenciais e trabalha com as empresas para melhorar a segurança antes de o modelo chegar ao mercado.

O programa começou a funcionar em 2024, com OpenAI e Anthropic. Nos primeiros um ano e meio, foram realizadas 40 avaliações. As duas empresas renegociaram recentemente suas parcerias de acordo com as novas prioridades do governo Trump.

Google DeepMind, Microsoft e xAI entram em novas condições. Praticamente todos os principais desenvolvedores de modelos de IA de ponta agora coordenam seus lançamentos com o governo.

Por que o governo controla a IA

A administração americana atribui ao CAISI várias tarefas: entender do que os sistemas de IA de ponta são realmente capazes; identificar riscos potenciais antes da chegada ao mercado de massa; e controlar a exportação de tecnologias de IA em nome da segurança nacional.

O CAISI conduz pesquisas direcionadas ao lado das empresas, verificando se os modelos estão prontos para o lançamento. Isso inclui analisar como o sistema lida com cenários potencialmente perigosos e verificar quais novas capacidades surgiram em relação à geração anterior.

Prioridades da administração para o desenvolvimento de IA:

• Garantias de que os sistemas continuem controláveis
• Compreensão plena das capacidades dos modelos de ponta
• Transparência perante os reguladores
• Proteção da segurança nacional
• Controle sobre a exportação de tecnologias

O que isso significa para a indústria

A concordância das maiores empresas com a avaliação governamental prévia significa que não é mais possível lançar novos modelos de ponta nos EUA sem coordenação com o CAISI. Para as empresas, isso desacelera o ciclo de desenvolvimento em várias semanas antes do lançamento. Para o governo, é uma alavanca de influência sobre os rumos do desenvolvimento. Para os usuários, potencialmente significa padrões de segurança mais altos nos modelos que usam todos os dias.

O que isso quer dizer

A era da liberdade total das grandes empresas de IA para decidir sobre o lançamento de modelos está chegando ao fim. O Estado assume um papel mais ativo na governança das principais tecnologias, que afetam milhões de pessoas. Isso pode acelerar o desenvolvimento de padrões de segurança, mas desacelerar o ritmo da inovação.