Google, Microsoft e xAI permitirão que os EUA revisem modelos de AI antes do lançamento

Google DeepMind, Microsoft e xAI concordaram em permitir que o governo dos EUA verifique novos modelos de IA antes do seu lançamento público. Isso significa que a verificação preliminar do governo está fazendo a transição de um programa experimental para uma etapa obrigatória no desenvolvimento das maiores empresas.

Como funciona a verificação

O Centro de Padrões e Inovação em IA (CAISI) do Departamento de Comércio dos EUA realiza avaliações preliminares de novos modelos de IA muito antes do seu lançamento público. A organização analisa as capacidades do sistema em codificação, matemática, tarefas científicas, identifica riscos potenciais e trabalha com as empresas para melhorar a segurança antes do modelo ser lançado. O programa começou a funcionar em 2024 com a participação da OpenAI e Anthropic.

Nos primeiros um ano e meio, 40 verificações já foram concluídas. Ambas as empresas renegociaram recentemente suas parcerias de acordo com as novas prioridades da administração Trump. Google DeepMind, Microsoft e xAI estão se juntando sob novos termos — praticamente todos os principais desenvolvedores de modelos avançados de IA agora coordenam seus lançamentos com o estado.

Por que o governo controla a IA

A administração dos EUA estabelece várias tarefas para a CAISI: entender o que os sistemas avançados de IA são realmente capazes de fazer; identificar riscos potenciais antes do lançamento no mercado; controlar a exportação de tecnologias de IA nos interesses da segurança nacional. A CCISI realiza pesquisas direcionadas ao lado de empresas, verificando modelos para prontidão de lançamento. Isso inclui analisar a capacidade do sistema de lidar com cenários potencialmente perigosos e verificar quais novas capacidades surgiram em comparação com a geração anterior. As prioridades da administração em relação ao desenvolvimento de IA:

• Garantir que os sistemas permaneçam controláveis
• Compreensão completa das capacidades dos modelos avançados
• Transparência perante reguladores
• Proteção da segurança nacional
• Controle sobre exportação de tecnologias

O que isso significa para a indústria

O acordo das maiores empresas para verificação preliminar do governo significa que lançar novos modelos avançados nos EUA sem coordenação com a CAISI não é mais possível. Para as empresas, isso é uma desaceleração do ciclo de desenvolvimento em várias semanas antes do lançamento. Para o governo — alavancas de influência sobre a direção do desenvolvimento. Para os usuários — padrões de segurança potencialmente mais elevados para os modelos que usam todos os dias.

O que isso significa

A era de liberdade completa para as grandes empresas de IA nas decisões sobre lançamentos de modelos está chegando ao fim. O estado está assumindo um papel mais ativo na governança das maiores tecnologias que afetam milhões de pessoas. Isso pode acelerar o desenvolvimento de padrões de segurança, mas desacelerar o ritmo da inovação.