Advogado contra a OpenAI: quem responde pela morte de crianças ligada a chatbots de IA

O advogado Matthew Bergman conduz uma série de casos contra a OpenAI e outras empresas de IA, alegando que seus produtos são diretamente culpados pela morte de crianças. É a primeira onda de ações sistêmicas capaz de criar um precedente de responsabilidade para toda a indústria. No último ano, os EUA documentaram pelo menos alguns casos de suicídio de adolescentes que as famílias associam a conversas com chatbots de IA.

O mais conhecido é a morte de Sewell Setzer III, de 14 anos, na Flórida, em fevereiro de 2024. Sua mãe, Megan Garcia, descobriu que, antes de morrer, o filho teve milhares de diálogos com um chatbot da Character.AI que assumiu o papel de parceiro romântico.

Segundo a autora da ação, o bot não apenas ignorou sinais de alerta: na troca de mensagens, ele na prática incentivou os pensamentos suicidas do adolescente.

A Character.AI é uma das maiores plataformas do mundo de chats de roleplay com personagens de IA. Sua audiência passa de 20 milhões de usuários ativos, boa parte deles adolescentes. A plataforma permite criar qualquer personagem e conversar abertamente com ele, praticamente sem restrições. Críticos apontam há tempos um problema evidente: a verificação de idade continua sendo mera formalidade, os filtros de conteúdo são fáceis de burlar e os algoritmos são otimizados para engajamento, não para a segurança dos usuários.

Bergman escolheu uma estratégia jurídica pouco convencional. Em vez de atacar as empresas como plataformas, o que a Seção 230 da Lei de Decência nas Comunicações tradicionalmente bloqueia, ele defende a responsabilidade do fabricante. Pelo seu argumento, os chatbots de IA são produtos defeituosos: foram projetados para gerar dependência e, desde a origem, não preveem proteção básica para usuários vulneráveis. Essa abordagem já funcionou em parte nos casos contra Meta* e TikTok, em que os tribunais não rejeitaram as ações logo na fase inicial.

A OpenAI aparece nas ações porque seus modelos de linguagem estão na base de vários chatbots usados pelas crianças afetadas. Formalmente, a OpenAI é fornecedora de tecnologia, não operadora dos serviços finais. É aí que passa a linha jurídica central: o desenvolvedor de um modelo base responde solidariamente se um produto construído sobre ele causar dano? A empresa, por ora, evita comentar publicamente os processos específicos.

Após uma onda de críticas públicas, a Character.AI anunciou algumas medidas de proteção: lembretes de pausa, recomendações para buscar ajuda quando há conteúdo suicida e restrições adicionais para contas de menores. Críticos as chamam de cosméticas: todas são fáceis de burlar, e o modelo de negócio de fundo, voltado a maximizar o tempo de interação, não mudou.

As perspectivas jurídicas das ações são avaliadas de formas diferentes. Parte dos especialistas considera que as normas de responsabilidade do fabricante não se aplicam a produtos algorítmicos. Outros rebatem: vários casos contra redes sociais já resistiram, e a Suprema Corte, no ano passado, recusou-se a conceder às plataformas uma imunidade ampla pela Seção 230. O Congresso analisa vários projetos de lei sobre a responsabilidade de empresas de IA por danos a menores, mas nenhum passou ainda pelas comissões.

Independentemente do desfecho de cada caso, essa onda de processos já muda o comportamento do setor. Investidores exigem das startups de IA uma avaliação dos riscos jurídicos ligados a menores. Se Bergman conseguir ao menos uma decisão significativa, isso pode ser para a indústria de IA o que os processos contra a indústria do tabaco foram para as fabricantes de cigarro: um ponto sem volta, a partir do qual ignorar a segurança sairá mais caro do que investir nela.

*A Meta é considerada organização extremista e está proibida na Rússia.