OpenAI e Anthropic pedem que o governo possa proibir modelos de IA perigosos

OpenAI e Anthropic enviaram uma carta aberta ao Escritório de Política de Ciência e Tecnologia da Casa Branca. É um movimento incomum: duas das maiores empresas de IA pedem que o Estado as controle e regule com mais rigor.

O que diz a carta e o que as empresas pedem

As empresas pedem restrições governamentais ao desenvolvimento e à implantação de modelos de IA que carreguem determinados riscos. Na prática, OpenAI e Anthropic querem que o governo americano tenha o direito e um mecanismo para proibir desenvolvedores de implantar novos modelos se eles representarem ameaça à segurança ou aos interesses nacionais.

Não é um pedido de regulação branda nem de um código de autorregulação do setor. As empresas pedem proibições de fato: que o Estado possa dizer "não, vocês não podem lançar este modelo". O desenho lembra o controle sobre tecnologia nuclear, aviação, medicamentos ou aditivos alimentares: antes de entrar em produção em massa, é preciso verificação e aprovação. Essa abordagem garante que sistemas poderosos não caiam nas mãos de quem possa usá-los para causar dano.

Por que elas propõem isso

Dario Amodei, CEO da Anthropic, destacou que controle estatal insuficiente e verificação fraca de clientes podem levar a ameaças graves para a sociedade. A empresa vê o problema no fato de que hoje qualquer pessoa pode acessar um modelo poderoso sem checagem adequada de como ele será usado, com quais objetivos e quem exatamente vai operar o sistema.

Não se trata apenas de casos marginais ou cenários teóricos. OpenAI e Anthropic observam um ecossistema de startups e empresas que crescem rápido e competem entre si por financiamento e participação de mercado. Sem restrições estatais, essa concorrência pode levar alguém a lançar um modelo perigoso sem verificações, só para chegar mais cedo ao mercado e atrair investimento. Pressa é inimiga da segurança.

Os principais riscos que preocupam as duas empresas:

• Uso de modelos para criar desinformação, manipulação e fraudes em escala social
• Implantação sem verificar os objetivos, a idoneidade e as intenções reais do cliente
• Falta de mecanismo de multas, proibições e responsabilização por violações e vazamentos
• Vazamento de tecnologia para organizações criminosas e Estados hostis
• Uso em ciberataques automatizados, phishing e invasão de sistemas de infraestrutura crítica

O paradoxo da concorrência e as barreiras de entrada

Há aqui um paradoxo econômico curioso. Empresas que investem bilhões em P&D e alcançaram a liderança mundial em IA pedem ao Estado que erga barreiras de entrada altas para concorrentes. Se cada novo modelo precisar de aprovação governamental, as startups pequenas simplesmente não conseguirão competir: não têm recursos nem contatos em Washington para atravessar um processo burocrático. Já OpenAI e Anthropic têm relações com as autoridades e podem negociar condições mais brandas ou uma análise acelerada.

Mas não é só uma estratégia de negócios explícita. Amodei, Altman e a liderança das duas empresas parecem realmente acreditar que uma IA muito poderosa exige supervisão estatal. Se estiverem certos, a regulação seria lógica, como na aviação, na indústria farmacêutica ou na energia nuclear.

O que vem a seguir

A reação da Casa Branca ainda é desconhecida. Mas a carta chega num momento em que o governo dos EUA dá mais atenção à política de IA e aos riscos possíveis.

Se as autoridades atenderem ao apelo, a indústria de IA mudará radicalmente. Startups pequenas esperarão meses ou anos por aprovação estatal. O processo de lançamento de um novo modelo ficará mais lento. A inovação rápida pode desacelerar. Ao mesmo tempo, cairá o risco de lançamento sem controle de sistemas realmente perigosos, que poderiam ser usados para desinformação ou para causar dano.

A alternativa é manter a atual concorrência selvagem e torcer para que a responsabilidade interna das empresas seja suficiente. A história mostra que, em áreas de crescimento rápido e promissoras (redes sociais, fintechs, carros autônomos), essa esperança costuma frustrar. O mercado nem sempre se autorregula da melhor forma para a sociedade.