OpenAI e Anthropic pedem proibição de modelos perigosos de IA em nível governamental

OpenAI e Anthropic enviaram uma carta aberta ao Escritório de Política Científica e Tecnológica da Casa Branca. É um passo incomum: as duas maiores empresas de IA estão pedindo ao governo para controlá-las e regulá-las mais rigidamente.

Essência da carta e do pedido

As empresas pedem a introdução de restrições estatais no desenvolvimento e implementação de modelos de IA que apresentem certos riscos. Efetivamente, OpenAI e Anthropic pedem que o governo americano tenha o direito e o mecanismo para proibir aos desenvolvedores implementar novos modelos se representarem uma ameaça à segurança ou aos interesses nacionais. Não é um pedido por regulação suave ou um código de autorregulação da indústria.

As empresas pedem precisamente proibições — quando o estado pode dizer "não, você não pode lançar este modelo". É semelhante a como funciona o controle sobre tecnologias nucleares, aviação, medicamentos ou aditivos alimentares: antes de lançar em produção em massa, é necessária verificação e aprovação. Essa abordagem garante que sistemas poderosos não caiam nas mãos daqueles que podem usá-los prejudicialmente.

Por que eles estão propondo isso

Dario Amodei, diretor executivo da Anthropic, enfatizou que o controle estatal insuficiente e a verificação fraca de clientes podem levar a ameaças sérias para a sociedade. A empresa vê o problema no fato de que atualmente qualquer pessoa pode acessar um modelo poderoso sem verificação adequada de como será utilizado, para quais fins e quem exatamente trabalhará com o sistema. Não se trata apenas de casos marginais ou cenários teóricos.

OpenAI e Anthropic observam um ecossistema de startups e empresas que crescem rapidamente e competem entre si em uma corrida por financiamento e participação de mercado. Sem restrições estatais, essa competição pode levar alguém a lançar um modelo perigoso sem verificações, apenas para chegar ao mercado mais rapidamente e atrair investimentos. A pressa é inimiga da segurança.

Os riscos principais que preocupam ambas as empresas:

• Uso de modelos para criar desinformação, manipulação e falsidades em escala social
• Implementação sem verificação de objetivos, honestidade do cliente e intenções reais
• Falta de mecanismo de penalidades, proibições e responsabilidade por violações e vazamentos
• Vazamento de tecnologia para as mãos de organizações criminosas e estados hostis
• Aplicação em ataques cibernéticos automatizados, phishing e hacking de infraestrutura crítica

O paradoxo da competição e barreiras de entrada

Aqui funciona um paradoxo econômico interessante. Empresas que investem bilhões em P&D e alcançaram liderança mundial em IA estão pedindo ao governo que estabeleça altas barreiras de entrada para concorrentes. Se for necessária aprovação estatal para cada novo modelo, pequenos startups simplesmente não conseguirão competir — eles não têm recursos e conexões em Washington para passar pelo processo burocrático.

Enquanto isso, OpenAI e Anthropic já têm relacionamentos com autoridades e podem negociar condições mais suaves ou revisão acelerada. Mas isso não é apenas uma estratégia de negócios declarada. Amodei, Altman e a liderança de ambas as empresas parecem realmente acreditar que uma IA muito poderosa requer supervisão estatal.

Se eles estão certos nessa avaliação, a regulação seria lógica — como para aviação, farmacêutica ou energia nuclear.

O que virá a seguir

A reação da Casa Branca ainda é desconhecida. Mas a carta chega em um momento em que a administração dos EUA está mais atenta à política de IA e aos possíveis riscos. Se as autoridades ouvirem esse apelo, a indústria de IA mudará radicalmente.

Pequenos startups esperarão meses ou anos pela aprovação estatal. O processo de lançamento de um novo modelo desacelerará. As inovações rápidas podem se tornar mais lentas.

Mas ao mesmo tempo, os riscos de lançamento descontrolado de sistemas realmente perigosos, que podem ser usados para desinformação ou causar danos, diminuirão. A alternativa é continuar a competição selvagem atual e esperar que a responsabilidade interna das empresas seja suficiente. A história mostra que em áreas de rápido crescimento e promissoras (mídia social, fintech, carros autônomos), essa esperança frequentemente falha.

O mercado nem sempre se autorregula de forma ótima para a sociedade.