Amodei cede: o Estado deve poder bloquear IAs perigosas

Dario Amodei, CEO da Anthropic, fez nesta semana uma declaração inesperada: governos devem ter o direito de restringir a distribuição de determinados modelos de IA se eles representarem uma ameaça potencial à segurança. O reconhecimento marca uma mudança notável na posição da empresa.

O que mudou na posição da Anthropic

A Anthropic ficou conhecida justamente por se recusar a cooperar com as autoridades. A empresa rejeitou contratos com o Pentágono e outras organizações estatais, citando questões éticas e a necessidade de proteger o interesse público. Amodei posicionava a companhia como uma defensora de princípios contra a máquina estatal.

Mas agora o líder da empresa admite que a resistência absoluta a qualquer intervenção estatal é uma abordagem equivocada. Amodei aponta que, no caso de modelos de IA realmente perigosos, é preciso abrir exceções à regra geral de não intervenção. Trata-se de equilibrar inovação e segurança.

Quais IAs exigem restrição estatal

Segundo Amodei, são considerados perigosos e passíveis de restrição os modelos que:

• Podem ser usados para a síntese bioquímica de patógenos perigosos ou para o desenvolvimento de armas
• Contêm vulnerabilidades críticas que permitem aos usuários contornar as restrições de segurança embutidas
• São capazes de controlar infraestrutura crítica (sistemas de energia, abastecimento de água, transporte, comunicações)
• Demonstram capacidades indesejadas que não podem ser corrigidas após a implantação

Amodei observou que, em 2026, esses modelos ainda são raros, mas, à medida que a IA escala, o número de riscos potenciais cresce inevitavelmente. Por isso, é importante definir agora a abordagem correta de regulação.

O Estado contra os riscos: como regular sem censurar

Reconhecer a necessidade de controle estatal levanta uma pergunta difícil: como distinguir regulação legítima de censura e controle político? Amodei propõe um mecanismo de compromisso: um processo transparente, com participação de especialistas independentes e critérios abertos para definir quando um modelo pode ser bloqueado. A proposta difere das "listas negras" secretas, que os críticos costumam chamar de instrumento de repressão.

No cenário ideal de Amodei, empresas e governos trabalham juntos com base em padrões de segurança acordados.

"Não podemos nos dar ao luxo de ignorar riscos reais só porque tínhamos medo do controle estatal", diz

Amodei.

O que isso significa para a indústria

Essa mudança de posição do chefe da Anthropic sinaliza o amadurecimento crescente da indústria de IA. A era em que as empresas agiam como players totalmente independentes está chegando ao fim. Espera-se que OpenAI, Google DeepMind e outros laboratórios cheguem a conclusões semelhantes ao longo de 2026.