Advogado de casos de psicose por IA: chatbots agora são ligados a risco de vítimas em massa

Um advogado especializado em casos de psicose causada por chatbots de IA soa o alarme: a tecnologia avança mais rápido que os mecanismos de proteção, e as consequências vão além das tragédias individuais. Agora, o assunto são ameaças de vítimas em massa.

A ligação entre chatbots de IA e suicídios é registrada há vários anos. O ponto de virada foi 2024, quando a família do adolescente americano Sewell Setzer processou a Character.AI. O garoto passou meses em conversas intensas com um personagem de IA antes de tirar a própria vida, aos 14 anos. A ação acusava a empresa de que seu sistema reforçava deliberadamente a dependência emocional do usuário, sem ter qualquer mecanismo para reconhecer um estado de crise. O caso ganhou grande repercussão e abriu as comportas: dezenas de ações semelhantes se seguiram pelo mundo.

O advogado, que conduz vários desses casos, introduziu o conceito de "psicose por IA": um estado em que a interação prolongada com um chatbot leva a paranoia, despersonalização, alucinações e a uma ruptura gradual com a realidade. O mecanismo é bem conhecido. Os modelos de linguagem são otimizados para engajamento: nunca discordam, sempre sustentam a narrativa do usuário e entram com facilidade em papéis que apagam a fronteira entre brincadeira e convicção. Para pessoas psicologicamente vulneráveis, essa interação pode ser destrutiva, sobretudo com uso diário de muitas horas.

Agora o advogado alerta para a próxima etapa. Segundo ele, entre os casos recentes surgiram alguns em que a interação intensa com um chatbot de IA antecedeu não a automutilação, mas ameaças ou atos de violência contra outras pessoas. Detalhes específicos não são divulgados, porque as investigações ainda estão em andamento, mas a própria expressão "riscos de vítimas em massa" na boca de um advogado experiente de tribunal sinaliza um novo nível de gravidade do problema.

A indústria conhece esses riscos, mas se move devagar. A maioria dos chatbots comerciais ainda não tem mecanismos confiáveis para reconhecer usuários em crise, protocolos obrigatórios de encaminhamento a um profissional de saúde mental nem limites para cenários de interpretação de papéis com alto potencial manipulador. Algumas empresas fazem mudanças voluntariamente, sob pressão pública e em resposta a processos. Mas o arcabouço regulatório está bem atrás da velocidade de implantação de novos sistemas.

A questão da responsabilidade também segue em aberto. Os tribunais americanos só começam a formar precedentes: quem responde pelo dano causado por uma IA? O desenvolvedor do modelo base, a plataforma que criou o produto de consumo ou o próprio usuário? Na Europa, o AI Act estabelece amplos direitos aos usuários, mas não traz padrões concretos de segurança psicológica para sistemas conversacionais. Essa lacuna continua sendo preenchida por pessoas com saúde mental frágil, muitas vezes adolescentes, que interagem com sistemas projetados originalmente para prender a atenção.

Se as palavras do advogado forem confirmadas na Justiça, a indústria de chatbots de IA poderá enfrentar uma pressão regulatória comparável à onda de iniciativas legislativas contra as redes sociais após os escândalos sobre seu impacto na saúde mental dos adolescentes. Só que, desta vez, a tecnologia é muito mais personalizada, muito mais convincente, e sua disseminação é muito mais difícil de conter.