Senadores dos EUA querem transformar em lei as “linhas vermelhas” da Anthropic sobre armas autônomas

O conflito entre a Anthropic e os militares norte-americanos saiu das salas de tribunal e chegou ao Capitólio. O senador democrata Adam Schiff, da Califórnia, está trabalhando em um projeto de lei que deve consagrar as "linhas vermelhas" da empresa em lei federal — princípios que proíbem o uso de seus sistemas de IA para criar armas letais autônomas e tomar decisões automáticas sobre vida e morte sem participação humana no loop de controle. As raízes do conflito estão no desacordo da Anthropic com os termos de um contrato militar.

Quando o Departamento de Defesa dos EUA exigiu acesso aos modelos de IA da empresa sem ressalvas sobre cenários de uso permitidos, a Anthropic recusou. A empresa insistiu: suas tecnologias não podem ser usadas para decisões letais autônomas — ou seja, situações em que um algoritmo determina independentemente, sem participação do operador humano, alvos para destruição ou autoriza outras ações militares críticas. Na opinião da Anthropic, isso não é um capricho corporativo, mas um princípio fundamental do desenvolvimento responsável de IA.

A resposta da Casa Branca foi dura: a administração Trump colocou a Anthropic em uma lista de fornecedores que representam ameaça à cadeia de suprimentos, bloqueando efetivamente a cooperação da empresa com agências governamentais. A Anthropic respondeu com uma ação judicial, acusando o governo de violar os direitos constitucionais da empresa. O confronto legal continua.

Foi neste momento que o Congresso entrou em cena. O senador Schiff anunciou sua intenção de converter as restrições éticas da Anthropic de política corporativa em lei federal. Sua futura legislação deve garantir: nenhum algoritmo de IA pode tomar decisões de forma independente sobre o uso da força — a palavra final sempre permanece com os humanos.

O princípio do "humano no loop" (human-in-the-loop) há muito é uma recomendação da indústria, mas não está consagrado em lugar algum na legislação americana — e o projeto de lei de Schiff deve corrigir essa omissão. Paralelamente, a senadora Elissa Slotkin, de Michigan, apresentou um projeto de lei separado limitando a capacidade do Departamento de Defesa de usar inteligência artificial para vigilância em massa de cidadãos norte-americanos. Este é o segundo front do mesmo problema: até que ponto os militares podem ir na aplicação de ferramentas de IA quando o objeto de observação se torna não adversários estrangeiros, mas os próprios cidadãos do país?

Ambos os projetos não surgiram no vácuo. Eles refletem a crescente preocupação dos legisladores com o ritmo de integração da IA na esfera militar. Diante do fato de o Pentágono estar ativamente assinando contratos com empresas de IA — da Palantir à Scale AI — a questão dos limites aceitáveis torna-se cada vez mais aguda.

É característico que a iniciativa venha precisamente dos democratas: na configuração política atual, isso significa que os projetos enfrentarão séria resistência da maioria republicana, que em geral apoia a expansão dos programas militares de IA. Para a Anthropic, a situação é ambígua. A consagração legislativa de seus princípios seria uma vitória e uma legitimação de toda a abordagem da empresa para segurança em IA.

No entanto, estar em uma "lista negra" ameaça genuinamente contratos governamentais e perspectivas comerciais no setor de defesa. O que está acontecendo é um sinal claro: a indústria chegou a um ponto onde códigos corporativos voluntários são insuficientes. Quando o principal desenvolvedor de modelos de IA processa o Pentágono e senadores se apressam em escrever leis, a sociedade precisa de regras claras — sobre IA e guerra, sobre máquinas e o direito à vida.