Amodei concordou: o estado deve ter o direito de bloquear IAs perigosas

Dario Amodei, CEO da Anthropic, fez uma declaração inesperada esta semana: governos deveriam ter o direito de restringir a distribuição de certos modelos de IA se eles representarem uma ameaça potencial à segurança. Esse reconhecimento representa uma mudança notável na posição da empresa.

O Que Mudou na Posição da Anthropic

Anteriormente, a Anthropic tornou-se conhecida justamente por sua recusa em cooperar com as autoridades. A empresa rejeitou contratos com o Pentágono e outras organizações governamentais, citando considerações éticas e a necessidade de proteger os interesses públicos. Amodei posicionou a empresa como um defensor de princípios contra a interferência governamental. Mas agora o líder da empresa reconheceu que a resistência absoluta a qualquer intervenção governamental é a abordagem errada. Amodei aponta que modelos de IA verdadeiramente perigosos exigem exceções à regra geral de não-intervenção. Trata-se de um equilíbrio entre inovação e segurança.

Quais Sistemas de IA Exigem Restrição Estatal

De acordo com Amodei, modelos perigosos sujeitos a restrição são aqueles que:

• Podem ser usados para síntese bioquímica de patógenos perigosos ou desenvolvimento de armas
• Contêm vulnerabilidades críticas que permitem que usuários contornem as restrições de segurança incorporadas
• São capazes de controlar infraestrutura crítica (sistemas de energia, abastecimento de água, transporte, comunicações)
• Demonstram capacidades indesejáveis que não podem ser corrigidas após o desdobramento

Amodei observou que em 2026, tais modelos ainda são raros, mas conforme a IA se expande, o número de riscos potenciais inevitavelmente cresce. É por isso que é importante agora desenvolver a abordagem correta para a regulação.

O Estado Contra Riscos: Como Regular Sem Censurar

Reconhecer a necessidade de controle governamental levanta uma questão complexa: como distinguir regulação justa de censura e controle político? Amodei propõe um mecanismo de compromisso — um processo transparente envolvendo especialistas independentes e critérios abertos pelos quais um modelo pode ser bloqueado. Essa abordagem difere das "listas negras" secretas, que críticos frequentemente chamam de instrumentos de supressão.

No cenário ideal de Amodei, empresas e governos trabalham juntos com base em padrões de segurança acordados.

"Não podemos nos permitir ignorar riscos reais simplesmente porque tínhamos medo do controle governamental," diz

Amodei.

O Que Isso Significa para a Indústria

Esse mudança de posição do chefe da Anthropic sinaliza maturidade crescente na indústria de IA. A era em que as empresas operavam como atores completamente independentes está terminando. Espera-se que em 2026, OpenAI, Google DeepMind e outros laboratórios cheguem a conclusões similares.