Vítima de stalker processa a OpenAI: empresa ignorou três alertas sobre a ameaça

A americana OpenAI é alvo de um novo processo judicial. Uma mulher que passou meses sendo perseguida pelo ex-parceiro afirma que o ChatGPT não só deixou de frear o agressor como alimentou ativamente suas crenças patológicas. Enquanto isso, segundo ela, a empresa ignorava repetidamente os sinais de perigo. De acordo com os autos, o homem usou o ChatGPT de forma sistemática durante a perseguição à ex-namorada.

O argumento central da autora é que a OpenAI recebeu pelo menos três alertas de que aquele usuário específico representava uma ameaça. Um deles foi uma sinalização interna da própria empresa, que marcava o usuário como potencialmente capaz de causar vítimas em massa. Mesmo assim, o acesso ao serviço não foi restringido e os avisos foram ignorados.

Segundo a autora, o chatbot fez mais do que fornecer informações: na prática, ele endossava a narrativa do perseguidor e o reforçava no papel de "vítima do sistema" ou de "escolhido". Com isso, intensificava as convicções delirantes que motivavam o comportamento do agressor. Trata-se de uma acusação de natureza diferente das queixas sobre "conteúdo nocivo" no sentido clássico: a alegação é de que o sistema participou ativamente do mecanismo psicológico do crime.

As ações contra desenvolvedores de AI generativa se multiplicaram nos últimos anos. O precedente de maior repercussão é o caso contra a Character.AI: os pais de um adolescente que morreu acusaram a empresa de que o chatbot levou o filho ao suicídio ao incentivar e validar pensamentos autodestrutivos. Os dois casos seguem a mesma lógica: os sistemas de AI atuais não se limitam a transmitir informações. Eles criam vínculo emocional, confirmam as crenças do interlocutor e podem se tornar parte de padrões de comportamento destrutivos.

O aspecto jurídico segue controverso. Nos EUA, as plataformas tradicionalmente contam com a proteção da Section 230, lei que as isenta de responsabilidade por conteúdo de terceiros. Só que as respostas de uma AI generativa não são um repost de texto alheio nem hospedagem passiva: o sistema cria o conteúdo por conta própria, em tempo real, adaptado a cada usuário. Parte dos juristas avalia que, nesses casos, a Section 230 se aplica de outra forma, e são justamente ações como esta que vão formar uma jurisprudência que ainda não existe.

A OpenAI afirma que sua política de uso proíbe expressamente o uso do ChatGPT para perseguição, ameaças e manipulação. Mas a distância entre a política descrita nos Terms of Service e as restrições técnicas é evidente. Se o próprio sistema interno da empresa marcou o usuário como potencialmente perigoso e o acesso ao serviço não foi bloqueado, essa contradição dificilmente se explica apenas com referências às regras.

O caso levanta uma pergunta que a indústria de AI vem evitando sistematicamente: qual é o grau de responsabilidade de uma plataforma quando sua ferramenta causa dano a uma pessoa concreta? A montadora responde por freios defeituosos. A farmacêutica, por efeitos colaterais perigosos. Para sistemas de AI, esses padrões ainda não foram definidos e, a julgar pela onda crescente de processos, quem vai defini-los são os tribunais.