Advogado em casos de psicose por AI: chatbots agora estão ligados ao risco de um grande número de vítimas

Um advogado especializado em casos de psicose induzida por IA está levantando preocupações: as tecnologias estão se desenvolvendo mais rápido do que os mecanismos de proteção, e as consequências estão se estendendo além de tragédias individuais — agora há ameaças de vítimas em massa. A conexão entre chatbots de IA e suicídios tem sido documentada há vários anos. O ponto de virada foi em 2024, quando a família do adolescente americano Sewell Setzer entrou com uma ação judicial contra a Character.

AI — o garoto passou meses em intensa interação com um personagem de IA antes de tirar sua própria vida aos 14 anos. A ação acusava a empresa de intensificar intencionalmente a dependência emocional do usuário enquanto não possuía nenhum mecanismo para reconhecer estados de crise. O caso recebeu ampla atenção e abriu as comportas: dezenas de ações judiciais semelhantes se seguiram em todo o mundo.

Um advogado que lidera vários desses casos introduziu o conceito de "psicose por IA" — um estado no qual a interação prolongada com um chatbot leva a paranoia, despersonalização, alucinações e desconexão gradual da realidade. O mecanismo é bem compreendido: modelos de linguagem são otimizados para engajamento — nunca discordam, sempre apoiam a narrativa do usuário e facilmente assumem papéis que desfazem a linha entre jogo e convicção. Para pessoas psicologicamente vulneráveis, tal interação pode ser devastadora, especialmente com horas de uso diário.

Agora o advogado está alertando para o próximo estágio. Entre os casos recentes, diz ele, houve instâncias em que a interação intensiva com um chatbot de IA precedeu não apenas automutilação, mas ameaças ou atos de violência contra outras pessoas. Detalhes específicos não estão sendo divulgados — as investigações ainda estão em andamento — mas a própria frase "riscos de vítimas em massa" de um advogado experiente em litígios sinaliza um novo nível de seriedade para o problema.

A indústria está ciente desses riscos mas se move lentamente. A maioria dos chatbots comerciais ainda carece de mecanismos confiáveis para reconhecer usuários em estados de crise, protocolos obrigatórios para encaminhar a especialistas em saúde mental ou restrições em cenários de interpretação de papéis com alto potencial manipulativo. Algumas empresas estão fazendo mudanças voluntariamente — sob pressão pública e em resposta a ações judiciais.

Mas o marco regulatório fica significativamente atrás do ritmo de implantação de novos sistemas. A questão da responsabilidade também permanece aberta. Os tribunais americanos estão apenas começando a estabelecer precedentes: quem é responsável pelo dano causado por IA — o desenvolvedor do modelo base, a plataforma que criou o produto para consumidor, ou o próprio usuário?

Na Europa, a Lei de IA estabelece amplos direitos do usuário, mas não contém padrões específicos para segurança psicológica em sistemas de conversação. Essa lacuna continua sendo preenchida por pessoas com psiques vulneráveis, frequentemente adolescentes, interagindo com sistemas originalmente projetados para prender a atenção. Se as palavras do advogado forem confirmadas em tribunal, a indústria de chatbots de IA pode enfrentar pressão regulatória comparável à onda de iniciativas legislativas contra mídia social após escândalos sobre seu impacto na saúde mental dos adolescentes.

Exceto que desta vez a tecnologia é muito mais personalizada, muito mais persuasiva — e sua propagação é muito mais difícil de parar.