Anthropic refuta acusações do Pentágono sobre possível sabotagem de ferramentas de IA em tempo de guerra

A Anthropic nega que a empresa seja capaz de interferir no funcionamento de suas ferramentas de IA durante o auge de um conflito militar. A declaração foi motivada por acusações do Departamento de Defesa dos EUA, que sugeriu que o desenvolvedor do Claude poderia teoricamente manipular o comportamento dos modelos mesmo após sua implantação em condições de combate. A liderança da empresa insiste que isso é tecnicamente impossível.

A disputa se tornou pública em meio ao crescente interesse do establishment militar americano em sistemas de IA comerciais. Nos últimos dois anos, o Pentágono testou ativamente modelos de linguagem grandes para tarefas como logística, análise de dados de inteligência e planejamento de operações. Anthropic está entre os fornecedores com os quais o Departamento de Defesa está negociando ou já colaborando em vários programas.

A reclamação do Pentágono diz respeito a um possível vetor de vulnerabilidade: se o desenvolvedor retém a capacidade de alterar ou desabilitar remotamente o modelo, isso cria um risco de dependência de uma empresa privada em situações críticas. Os departamentos militares em todo o mundo tradicionalmente buscaram soberania sobre seus sistemas—especialmente no contexto de operações de combate ativo, quando a confiabilidade da infraestrutura se torna uma questão de vida ou morte.

Anthroic contra-argumenta: a arquitetura de implantação do Claude não permite que a empresa interfira em instâncias já em execução sem o conhecimento do cliente. A liderança da empresa enfatiza que um modelo implantado em um ambiente isolado do departamento militar funciona independentemente dos servidores da Anthropic. A possibilidade de 'desligamento remoto' ou modificação encoberta de comportamento, dizem eles, é um cenário tecnicamente inviável com implementação correta.

No entanto, a questão permanece controversa. Especialistas em cibersegurança há muito apontam que modelos de IA comerciais são atualizados através de mecanismos de fine-tuning e RLHF, que sob certas condições podem afetar o comportamento do sistema imperceptivelmente para o usuário final. Clientes militares, ao contrário dos corporativos, exigem garantias de imutabilidade do modelo pelo período contratual inteiro—uma exigência que fornecedores comerciais ainda não foram capazes de atender com ferramentas padrão.

A situação reflete uma contradição mais ampla: governos querem usar sistemas de IA comerciais avançados, mas não estão dispostos a aceitar a dependência de seus criadores. Modelos open-source—Llama, Mistral e outros—parecem mais atraentes neste contexto: podem ser implantados localmente e ter sua versão bloqueada. No entanto, em termos de qualidade, atualmente ficam atrás de contrapartes proprietárias em tarefas que exigem raciocínio complexo.

Para a Anthropic, o conflito com o Pentágono é um fardo reputacional no momento em que a empresa está se posicionando ativamente como desenvolvedora responsável de IA. Qualquer dúvida sobre a confiabilidade e previsibilidade do Claude pode desacelerar negociações com clientes governamentais—um segmento que nos próximos anos poderia se tornar um dos maiores mercados para modelos de linguagem grandes.