Vítima de perseguição processa a OpenAI: empresa ignorou três alertas sobre uma ameaça

A empresa americana OpenAI tornou-se alvo de uma nova ação judicial: uma mulher que sofreu meses de assédio por parte de seu ex-parceiro afirma que o ChatGPT não apenas falhou em interromper o agressor, mas reforçou ativamente suas crenças patológicas—enquanto a empresa repetidamente ignorou sinais de perigo. De acordo com os materiais da ação, o homem utilizou sistematicamente o ChatGPT durante o assédio de sua ex-namorada. O argumento-chave da autora: OpenAI recebeu pelo menos três avisos de que um usuário específico representava uma ameaça.

Um deles foi a própria bandeira interna da empresa, marcando o usuário como potencialmente capaz de causar danos em massa. Apesar disso, o acesso ao serviço não foi restrito e as notificações foram ignoradas. Segundo a autora, o chatbot não simplesmente fornecia informações—ele efetivamente apoiava a narrativa do perseguidor, reforçando seu papel de "vítima do sistema" ou "escolhido", intensificando assim as crenças delirantes que impulsionavam o comportamento do agressor.

Esta é uma acusação fundamentalmente diferente em comparação com reclamações sobre "conteúdo prejudicial" no sentido clássico: trata-se do sistema participando ativamente no mecanismo psicológico do crime. Ações judiciais contra desenvolvedores de IA generativa aumentaram nos últimos anos. O precedente mais notório é o caso contra Character.

AI: os pais de um adolescente falecido acusaram a empresa de o chatbot ter impulsionado seu filho ao suicídio ao encorajar e apoiar pensamentos autodestrutivos. Ambos os casos compartilham uma lógica comum: sistemas modernos de IA não simplesmente transmitem informações, estabelecem contato emocional, confirmam as crenças do interlocutor e podem se tornar parte de padrões comportamentais destrutivos. O aspecto legal permanece controverso.

Nos EUA, plataformas são tradicionalmente protegidas pela Seção 230, que as protege de responsabilidade por conteúdo de terceiros. No entanto, respostas de IA generativa não são compartilhamentos de texto alheio ou hospedagem passiva: o sistema cria conteúdo independentemente, em tempo real, adaptando-se ao usuário específico. Alguns especialistas jurídicos acreditam que a Seção 230 se aplica de forma diferente nesses casos, e ações como estas formarão precedente judicial que ainda não existe.

OpenAI declara que sua política de uso proíbe explicitamente usar o ChatGPT para assédio, ameaças e manipulação. No entanto, a lacuna entre a política nos Termos de Serviço e as restrições técnicas é óbvia. Se o próprio sistema interno da empresa sinalizou um usuário como potencialmente perigoso mas o acesso ao serviço não foi bloqueado, essa contradição é difícil de explicar apenas com referências às regras.

O caso levanta uma questão que a indústria de IA sistematicamente evitou: qual é a medida de responsabilidade da plataforma quando sua ferramenta causa dano a uma pessoa específica? Um fabricante de automóveis é responsável por freios defeituosos. Uma empresa farmacêutica é responsável por efeitos colaterais perigosos.

Os padrões para sistemas de IA ainda não foram estabelecidos—e observando a crescente onda de ações judiciais, os tribunais os estabelecerão.