Anthropic rebate acusações do Pentágono sobre possível sabotagem de ferramentas de IA em tempos de guerra

A Anthropic nega que consiga interferir no funcionamento de suas ferramentas de IA no auge de um conflito militar. A declaração responde a questionamentos do Departamento de Defesa dos EUA, que sugeriu que a desenvolvedora do Claude poderia, em teoria, manipular o comportamento dos modelos mesmo depois de implantados em condições de combate. Os executivos da empresa insistem que isso é tecnicamente impossível.

A disputa se tornou pública em meio ao interesse crescente das Forças Armadas americanas por sistemas de IA comerciais. Nos últimos dois anos, o Pentágono tem testado ativamente grandes modelos de linguagem em logística, análise de inteligência e planejamento de operações. A Anthropic está entre os fornecedores com quem o Departamento de Defesa negocia ou já colabora em alguns programas.

A preocupação do Pentágono é um possível vetor de vulnerabilidade: se a desenvolvedora mantém a capacidade de alterar ou desativar o modelo remotamente, isso cria o risco de dependência de uma empresa privada em situações críticas. Instituições militares de todo o mundo tradicionalmente buscam soberania sobre seus sistemas, especialmente durante combates ativos, quando a confiabilidade da infraestrutura é questão de vida ou morte.

A Anthropic rebate: a arquitetura de implantação do Claude não permite que a empresa interfira em instâncias já em execução sem o conhecimento do cliente. Os executivos ressaltam que um modelo implantado no ambiente isolado de um órgão militar funciona de forma independente dos servidores da Anthropic. Eles classificam o "desligamento remoto" ou a alteração oculta de comportamento como um cenário tecnicamente insustentável, desde que a implementação seja correta.

Ainda assim, o tema segue em debate. Especialistas em cibersegurança há tempos chamam atenção para o fato de que modelos de IA comerciais são atualizados por meio de fine-tuning e RLHF, mecanismos que, em certas condições, podem alterar o comportamento do sistema sem que o usuário final perceba. Clientes militares, ao contrário dos corporativos, exigem garantias de que o modelo não mudará durante todo o prazo do contrato, requisito que os fornecedores comerciais ainda não sabem atender com ferramentas padrão.

A situação reflete uma contradição mais ampla: governos querem usar sistemas de IA comerciais de ponta, mas não aceitam depender de seus criadores. Modelos de código aberto, como Llama, Mistral e outros, parecem mais atraentes nesse contexto, pois podem ser implantados localmente e ter a versão fixada. Mesmo assim, ainda ficam atrás dos equivalentes proprietários em tarefas que exigem raciocínio complexo.

Para a Anthropic, o conflito com o Pentágono é um peso reputacional num momento em que a empresa se posiciona ativamente como desenvolvedora responsável de IA. Qualquer dúvida sobre a confiabilidade e a previsibilidade do Claude pode atrasar negociações com clientes governamentais, segmento que nos próximos anos pode se tornar um dos maiores mercados para grandes modelos de linguagem.