Baidu na Justiça: alucinações de IA não seriam motivo para multa

Imagine passar anos construindo uma carreira no direito e, um dia, entrar na internet e descobrir que uma rede neural popular atribui a você participação em uma série de crimes. Foi o que aconteceu com o advogado pequinês Huang Guigeng, que decidiu não tolerar as armações dos algoritmos. Ele processou a Baidu e exige um milhão de yuans por danos à sua reputação profissional. A primeira audiência ocorreu há poucos dias no tribunal do distrito de Haidian, e os argumentos da defesa da Baidu fazem questionar em que admirável mundo novo vivemos. A empresa não nega que seu produto gerou mentiras, mas diz que isso não foi uma ação deliberada.

O principal argumento da Baidu gira em torno do termo "alucinações". Os advogados da companhia afirmaram que o fenômeno é uma etapa inevitável do desenvolvimento de qualquer grande modelo de linguagem. Pela lógica deles, como a tecnologia ainda está em aperfeiçoamento, o desenvolvedor não deve responder pelos erros cometidos nesse "período de transição". A Baidu insiste que não teve intenção de ofender o advogado e, portanto, não há ato ilícito. É um exemplo clássico de corporações tentando transferir a responsabilidade do sujeito para a imperfeição da ferramenta, fingindo que a IA é uma força da natureza que não se pode controlar por completo.

O contexto é fundamental. A China está hoje na linha de frente da regulação de inteligência artificial, tentando equilibrar o apoio às suas big techs na corrida com os EUA e um controle rígido da informação. Se o tribunal ficar do lado da Baidu, criará um precedente perigoso. Na prática, qualquer empresa poderá lançar um produto cru que gere calúnias e usar a complexidade técnica do algoritmo como justificativa. Por outro lado, se a Baidu perder, a indústria enfrentará uma onda de processos. Cada palavra errada de um chatbot poderá virar motivo para indenizações milionárias, o que levaria os desenvolvedores a "apertar os parafusos" e deixar os modelos o mais cautelosos possível e, muito provavelmente, menos úteis.

É curioso como a Baidu tenta separar a tecnologia da responsabilidade. Ela afirma que não cometeu violação de direitos direta nem indireta, já que a geração de texto é um processo automático. Mas aqui surge um beco sem saída lógico. Se a empresa lucra com o algoritmo e o promove como fonte confiável de informação, por que deveria ser isenta de responsabilidade quando ele erra? Na mídia tradicional, um editor não pode dizer que uma matéria falsa foi uma "alucinação" da impressora. Mas no mundo dos LLMs as regras antigas, por algum motivo, deixam de funcionar, ou pelo menos as empresas querem muito que acreditemos nisso.

O processo em Pequim é apenas a primeira andorinha de uma série de batalhas jurídicas futuras. Enquanto OpenAI e Google se defendem de ações por direitos autorais, a Baidu enfrenta um problema mais terreno, mas não menos importante: a proteção da honra e da dignidade de uma pessoa comum. O desfecho mostrará o quanto a inteligência artificial pode ser "inteligente" e "irresponsável" na sociedade atual. Se as alucinações forem reconhecidas como um direito legal da máquina de errar, é melhor todos nos prepararmos para uma realidade digital ainda mais imprevisível e tóxica.

O ponto central: a "alucinação" virará um termo jurídico que isenta de responsabilidade, ou a Baidu terá de pagar por cada token falso?