Senadores dos EUA querem transformar em lei as "linhas vermelhas" da Anthropic sobre armas autônomas

O conflito entre a Anthropic e os militares dos EUA saiu dos tribunais e chegou a Capitol Hill. O senador democrata Adam Schiff, da Califórnia, trabalha em um projeto de lei que deve incluir na legislação federal as "linhas vermelhas" da empresa: princípios que proíbem o uso de seus sistemas de IA para criar armas letais autônomas ou para tomar automaticamente decisões sobre vida e morte sem a participação de um humano no circuito de controle.

A origem do conflito está na discordância da Anthropic com os termos de um contrato militar. Quando o Departamento de Defesa dos EUA exigiu acesso aos modelos de IA da empresa sem ressalvas sobre cenários de uso permitidos, a Anthropic recusou. A companhia insistiu que sua tecnologia não pode ser usada para decisões letais autônomas, ou seja, situações em que um algoritmo, sem a participação de um operador humano, define alvos a atacar ou autoriza outras ações militares críticas. Na visão da Anthropic, isso não é capricho corporativo, mas um princípio básico do desenvolvimento responsável de IA.

A resposta da Casa Branca foi dura: o governo Trump incluiu a Anthropic em uma lista de fornecedores considerados ameaça à cadeia de suprimentos, na prática bloqueando a colaboração da empresa com órgãos estatais. A Anthropic reagiu com uma ação judicial, acusando o governo de violar os direitos constitucionais da companhia. A batalha na Justiça continua.

Foi nesse momento que o Congresso entrou em cena. O senador Schiff afirmou que pretende transferir os limites éticos da Anthropic da esfera da política corporativa para a da lei federal. Seu futuro projeto deve garantir que nenhum algoritmo de IA possa decidir sozinho pelo uso da força: a palavra final fica sempre com um humano. O princípio do "humano no circuito" (human-in-the-loop) já é há muito tempo uma recomendação do setor, mas não está previsto de forma explícita em nenhum ponto da legislação americana, e o projeto de Schiff busca corrigir essa lacuna.

Em paralelo, a senadora Elissa Slotkin, de Michigan, apresentou um projeto separado que limita a capacidade do Departamento de Defesa de usar inteligência artificial para vigilância em massa de cidadãos americanos. É a segunda frente do mesmo problema: até onde os militares podem ir com ferramentas de IA quando o alvo da observação não são adversários estrangeiros, mas os próprios cidadãos do país?

Os dois projetos não surgiram no vácuo. Eles refletem a preocupação crescente dos legisladores com o ritmo da integração da IA na área militar. Enquanto o Pentágono fecha contratos com empresas de IA, da Palantir à Scale AI, a questão dos limites aceitáveis fica mais aguda.

O fato de a iniciativa partir dos democratas é significativo: na configuração política atual, isso significa que os projetos enfrentarão forte resistência da maioria republicana, que em geral apoia a expansão dos programas militares de IA.

Para a Anthropic, a situação é ambígua. Ter seus princípios consagrados em lei seria uma vitória e uma legitimação de toda a abordagem da empresa para a segurança da IA. Mas estar na "lista negra" ameaça de fato os contratos governamentais e as perspectivas comerciais no setor de defesa.

O que está acontecendo é um sinal claro: o setor chegou a um ponto em que códigos corporativos voluntários não bastam. Quando a maior desenvolvedora de modelos de IA processa o Pentágono e senadores correm para escrever leis, a sociedade precisa de regras claras sobre IA e guerra, sobre máquinas e o direito à vida.