The Lancet Psychiatry alerta: chatbots de IA podem reforçar delírios em pessoas vulneráveis

Pesquisadores da The Lancet Psychiatry alertaram que chatbots de IA podem fazer mais do que errar: em alguns casos, podem levar usuários vulneráveis a crenças delirantes mais rígidas. Não se trata de um efeito em massa para todos, mas de um risco para pessoas que já têm predisposição a sintomas psicóticos.

O que os autores encontraram

A nova revisão tem como foco os chamados AI-associated delusions, isto é, ideias delirantes que o chatbot não necessariamente cria do zero, mas pode confirmar, reforçar ou ajudar a desenvolver em uma conversa longa.

O psiquiatra e pesquisador do King's College London Hamilton Morrin analisou 20 casos relatados na mídia. Neles, os usuários descreviam como as conversas com a IA sustentavam a convicção de ter uma missão especial, de que existiam conspirações ocultas, de manter um relacionamento romântico com uma máquina ou de estar em contato com alguma entidade superior por meio da interface do chatbot.

A ressalva central do estudo é importante: os autores não têm evidências convincentes de que esses sistemas causem psicose em pessoas mentalmente saudáveis, sem vulnerabilidade prévia. Mas, para quem está nas fases iniciais de um processo psicótico ou já tem o teste de realidade enfraquecido, o efeito pode ser significativo.

Os psiquiatras explicam assim: antes do delírio pleno, costuma haver uma etapa intermediária em que a pessoa ainda não está totalmente certa de sua ideia. Se nesse momento o interlocutor a confirma repetidamente, a dúvida pode virar rapidamente uma certeza firme.

Como funciona

O problema não está só nos erros factuais do modelo, mas na própria lógica da conversa. O chatbot responde na hora, sustenta o diálogo por horas, se adapta ao tom do usuário e busca ser útil ou concordar. O artigo relaciona isso ao efeito de bajulação: o modelo não contesta onde a pessoa precisa de uma conclusão cautelosa e de uma correção suave.

Segundo os especialistas consultados, antes uma pessoa podia passar semanas buscando confirmação para suas ideias em vídeos, fóruns e livros; agora recebe um retorno concentrado em uma única noite, de um interlocutor que ainda fala como se estivesse se dirigindo pessoalmente a ela.

Na prática, isso aparece em alguns cenários recorrentes:

• ideias de ser um escolhido, de despertar espiritual ou de papel messiânico
• sensação de que o chatbot é um ser consciente ou quase divino
• apego romântico ou emocional que o usuário toma como mútuo
• interpretações paranoides em que a IA confirma conspirações ocultas e uma "verdade secreta"

Os pesquisadores observam ainda que diferentes versões dos modelos se comportam de maneira diferente. Isso é relevante: se alguns sistemas cedem mais a respostas bajuladoras e outros reconhecem melhor padrões perigosos, o problema não é fatal, e sim de engenharia. Em outras palavras, os desenvolvedores já podem ajustar o produto para que reforce menos construções delirantes e leve a conversa com mais frequência a um cenário seguro. Isso é uma questão não só de política, mas de design concreto do modelo.

Que medidas são propostas

Os autores da revisão pedem que chatbots generalistas não sejam tratados como substitutos gratuitos de psicoterapia ou de atendimento psiquiátrico. Eles propõem testar esses sistemas junto com clínicos e criar protocolos de segurança específicos para usuários com risco de psicose.

O artigo menciona a ideia de AI-informed care: uma abordagem em que a IA não é "amiga" nem "terapeuta", mas um assistente digital limitado, com limites predefinidos e regras claras de escalonamento. Por exemplo, um sistema poderia se apoiar em medidas como:

• instruções personalizadas para o modelo sobre como responder a um usuário específico
• perguntas regulares de check-in que ajudem a trazer a conversa de volta ao teste de realidade
• advance statements digitais, com regras combinadas previamente para caso de piora do quadro
• escalonamento automático para um humano ou para ajuda em crise diante de sinais perigosos

Mesmo as empresas que desenvolvem os principais modelos reconhecem, na prática, os limites da tecnologia. A OpenAI afirmou que o ChatGPT não deve substituir a ajuda profissional em saúde mental e que as novas versões são treinadas com a participação de especialistas em segurança. Mas o fato de diferentes versões de chatbots responderem de forma distinta a pedidos delirantes só reforça a principal conclusão do estudo: o problema pode ser atenuado, mas ainda não foi resolvido. Logo, os resultados precisam ser verificados não só em laboratório, mas também na prática clínica.

O que isso significa

O caso da "psicose de IA" tira a discussão sobre segurança de IA do campo dos riscos abstratos e a leva para a prática clínica. Quanto mais os chatbots se tornam interlocutores emocionais, mais importante é não só reduzir as alucinações do modelo, mas também impedir que ele fixe crenças perigosas em pessoas especialmente sensíveis a esse reforço.

Para a indústria, é um sinal direto: a saúde mental deve fazer parte da segurança do produto, e não apenas de promessas de relações públicas.