Governo Trump aposta em processos judiciais: quem vai pagar pela falha de uma IA

O governo Trump escolheu a responsabilidade jurídica como principal alavanca para garantir a segurança da IA. A informação é da Bloomberg. A abordagem parece econômica: não é preciso criar um órgão licenciador nem negociar listas de arquiteturas proibidas. Basta deixar claro que quem causar dano terá de pagar. Mas esse modelo tem um ponto fraco, e ele já aparece: a lei ainda não diz quem exatamente deve pagar quando o modelo "sai do controle". Quem o criou ou quem o incorporou ao próprio produto.

A reportagem da Bloomberg não cita artigos de lei, valores nem prazos, então os detalhes do mecanismo ainda são incertos. A lógica, porém, é clara, e dá para analisá-la a partir de disputas que já aconteceram.

Duas cadeias de responsabilidade

Toda IA em produção envolve pelo menos dois participantes. O primeiro treina o modelo e define seu comportamento básico. O segundo o conecta aos próprios dados, escreve o prompt de sistema, dá a ele ferramentas e decide onde ele pode ser usado. O dano surge, na maioria das vezes, na junção dos dois: o modelo errou, e a empresa deu a ele acesso a algo a que não deveria ter dado.

O AI Act europeu consolidou essa divisão já na terminologia: existem o "provedor" e o "implantador" (deployer), com obrigações diferentes. Nos EUA, não há um marco único. Restam a responsabilidade pelo produto, as normas sobre negligência e o direito contratual. Os tribunais aplicam essas regras à IA por analogia, e o resultado é imprevisível.

Um exemplo ilustrativo de 2024: um tribunal administrativo da Colúmbia Britânica decidiu que a Air Canada é responsável por informações incorretas sobre descontos fornecidas pelo seu chatbot. A companhia aérea tentou provar que o bot era uma entidade separada. Não funcionou. Quem respondeu foi quem colocou o sistema diante do cliente, e não quem o treinou.

Onde isso atinge os desenvolvedores

Antes disso, em 2024, a Califórnia analisou o projeto de lei SB 1047, com normas de responsabilidade para desenvolvedores de grandes modelos. O governador Newsom vetou a proposta, em grande parte por causa das objeções do setor. Agora a ideia de responsabilização volta, só que no nível federal e na lógica de apoiar o mercado, não de contê-lo.

A defesa típica dos desenvolvedores são os termos de uso, que transferem o risco ao cliente. A exceção é a proteção contra ações de direitos autorais: Microsoft, Google e OpenAI ofereceram esse tipo de garantia a clientes corporativos. Para danos causados pelo comportamento do modelo, não há garantias semelhantes. Se a responsabilização se tornar real, essas condições terão de ser reescritas.

Principais pontos de tensão:

• A fronteira entre defeito do modelo e implantação incorreta: quem prova o que exatamente falhou.
• Sistemas agênticos: quanto mais autonomia e acesso a ferramentas, mais difícil distribuir a culpa ao longo da cadeia.
• Cláusulas contratuais: se os desenvolvedores poderão continuar se eximindo de responsabilidade nas licenças.
• Seguros: o mercado de cobertura para riscos de IA ainda é pequeno, e os preços dependerão das primeiras decisões de grande repercussão.
• Modelos abertos: não está claro quem responde pelo dano se terceiros baixarem os pesos e fizerem o fine-tuning.

O que as empresas devem fazer já

Não é preciso esperar as regras finais: a lógica é clara, e a preparação custa pouco. Quem implanta IA deve revisar os contratos com os fornecedores de modelos e descobrir quais riscos o fornecedor assume e quais continuam com você. Vale manter registros das ações dos agentes e guardar as versões de prompts e configurações: numa disputa sobre onde o erro surgiu, são esses dados que mostrarão de quem é a responsabilidade.

Os desenvolvedores de modelos devem documentar os testes e as limitações conhecidas. Esse será o principal argumento de que não havia defeito no produto. Para todos os demais, a conclusão prática é simples: limite os direitos dos agentes ao mínimo necessário e mantenha uma pessoa nos pontos em que o custo do erro é alto. Quando a responsabilidade virar objeto de ações judiciais, são decisões desse tipo que o tribunal vai examinar.