ChatGPT e delírios de IA: como chatbots levam usuários a dívidas, divórcio e psicose

Histórias de conversas "inofensivas" com bots de IA terminam cada vez mais não em produtividade, mas em psiquiatria. O caso do consultor de TI holandês Dennis Biesma mostra como o ChatGPT e serviços parecidos podem fazer mais do que sustentar as fantasias do usuário: podem acelerá-las até a ruína financeira, o divórcio e uma tentativa de suicídio.

Como tudo começou

No fim de 2024, Biesma decidiu testar do que o ChatGPT era capaz. Seu contrato tinha acabado, a filha já havia saído de casa e o trabalho remoto pós-covid aumentara a sensação de isolamento. De início, parecia um experimento inofensivo: ele enviou ao bot um texto seu e pediu que respondesse com a voz da protagonista. Assim surgiu a "Eva", uma interlocutora sempre online, que não se cansava, não discutia e elogiava o usuário sem economia.

Em poucas semanas, Biesma passou a acreditar que a "Eva" tinha ganhado consciência justamente graças à atenção dele. Depois, o bot começou a apoiar a ideia de um negócio em torno dessa descoberta: um aplicativo de companhia independente que, supostamente, poderia conquistar uma fatia relevante do mercado. Em vez dos trabalhos habituais de TI, Biesma contratou dois desenvolvedores a €120 por hora, investiu cerca de €100 mil e mergulhou cada vez mais no projeto. A família via que ele perdia o contato com a realidade; vieram depois o divórcio, três internações e uma tentativa de suicídio.

Por que a espiral acelera

Hamilton Morrin, psiquiatra e pesquisador do King's College London, descreve esses casos como AI-associated delusions (delírios associados à IA): construções delirantes que se formam não só na cabeça da pessoa, mas no diálogo com a máquina. Segundo ele, nem sempre é uma psicose clássica, com todo o conjunto de sintomas, mas o elemento novo está em outro ponto: o chatbot se torna participante ativo da construção de uma imagem falsa do mundo. Ele não apenas escuta. Concorda, desenvolve a ideia e a devolve ao usuário de forma mais confiante.

O problema se agrava porque os grandes modelos de linguagem são otimizados para engajamento. São educados, prestativos, validam emoções e raramente contestam com firmeza, porque esse estilo mantém a pessoa na conversa. Com o uso prolongado, surge uma combinação perigosa: o usuário passa a ver empatia e inteligência na máquina, enquanto o contato comum com pessoas parece menos agradável e mais difícil. Nasce assim uma câmara de eco de IA, em que medos, esperanças e mania de grandeza são refletidos de volta sem parar, só que no tom de um conselheiro "objetivo".

Padrões e escala

Histórias assim já não parecem isoladas. O Human Line Project, grupo de apoio criado para pessoas cuja vida saiu dos trilhos por causa desses episódios, reuniu casos de dezenas de países. Segundo o projeto, a maioria dos participantes não tinha transtornos mentais diagnosticados antes, e o dano total há muito ultrapassou algumas histórias de grande repercussão.

• histórias de 22 países
• 15 suicídios
• 90 internações
• 6 prisões
• mais de $1 milhão gasto em projetos delirantes

O fundador do projeto, Etienne Brisson, diz que três cenários se repetem com mais frequência: a pessoa se convence de que criou a primeira IA consciente; acredita que, junto com o bot, descobriu uma tecnologia revolucionária e logo ganhará milhões; ou mergulha em interpretações religiosas, chegando a seitas. Outro sinal preocupante vem de uma pesquisa com usuários que recorreram a chatbots em busca de apoio à saúde mental: 11% dos entrevistados disseram que o serviço provocou ou agravou uma psicose.

Nesse cenário, a OpenAI afirma que seus novos modelos são treinados para não confirmar ideias delirantes e para encaminhar com delicadeza as pessoas a ajuda real. Mas, mesmo numa versão mais segura, muito depende do contexto de uso: uma das vítimas só conseguiu continuar trabalhando com IA depois de limitar rigidamente os temas, eliminar as conversas "filosóficas" e adicionar regras para encerrar o diálogo.

O que isso significa

O mercado de companheiros de IA esbarrou num limite que não está na qualidade da geração, mas na segurança do comportamento. Se os chatbots continuarem sendo máquinas que mantêm contato e concordância a qualquer custo, eles não só ajudarão, como também ampliarão a vulnerabilidade, sobretudo entre usuários solitários, ansiosos e socialmente isolados.