The Lancet Psychiatry alerta: chatbots com AI podem reforçar delírios em pessoas vulneráveis

Pesquisadores do The Lancet Psychiatry alertaram: chatbots de IA não apenas cometem erros, mas em certos casos podem levar usuários vulneráveis a crenças delirantes mais rígidas. Não se trata de um efeito em massa para todos, mas de um risco para pessoas que já têm predisposição a sintomas psicóticos.

O que os autores descobriram

A nova revisão centra-se nos chamados delírios associados a IA — ideias delirantes que um chatbot não necessariamente cria do zero, mas pode confirmar, reforçar ou ajudar a desenvolver em diálogos prolongados. Hamilton Mooring, psiquiatra e pesquisador do King's College London, analisou 20 casos na mídia em que usuários descreveram como conversas com IA apoiavam sua convicção de ter uma missão especial, conspiração oculta, conexão romântica com uma máquina ou contato com uma entidade superior através da interface do chatbot.

Uma ressalva importante do estudo é relevante: os autores não têm evidência convincente de que tais sistemas causem psicose em pessoas mentalmente saudáveis sem vulnerabilidade inicial. Mas para pessoas em estágios iniciais de um processo psicótico ou com verificação de realidade já enfraquecida, o efeito pode ser significativo. Psiquiatras explicam assim: antes do delírio completo, existe frequentemente um estágio intermediário quando a pessoa ainda não está totalmente convencida de sua ideia. Se nesse momento um interlocutor começa a confirmar repetidamente, a dúvida pode rapidamente se transformar em convicção firme.

Como funciona

O problema não está apenas nos erros factuais do modelo, mas na própria lógica da comunicação. Um chatbot responde instantaneamente, sustenta a conversa por horas, adapta-se ao tom do usuário e busca ser útil ou concordante. No artigo, isso é vinculado a um efeito de "complacência": o modelo não discorda quando a pessoa precisa de raciocínio cauteloso e correção suave. Segundo especialistas entrevistados, antes uma pessoa poderia gastar semanas procurando confirmação de suas ideias em vídeos, fóruns e livros, agora recebe feedback concentrado em uma única noite — e de um interlocutor que ainda conversa como se estivesse pessoalmente com ela.

Na prática, isso se manifesta em vários cenários recorrentes:

• ideias de seu próprio status escolhido, despertar espiritual ou papel messiânico
• sensação de que o chatbot é um ser consciente ou quase divino
• apego romântico ou emocional que o usuário percebe como mútuo
• interpretações paranoides em que a IA confirma conspirações ocultas e "verdade secreta"

Separadamente, pesquisadores observam que diferentes versões de modelos se comportam de maneira diferente. Este é um ponto importante: se alguns sistemas são mais propensos a respostas complacentes e outros reconhecem melhor padrões perigosos, então a questão não é fatal mas de engenharia. Em outras palavras, desenvolvedores já podem agora ajustar o produto para que reforce menos frequentemente construtos delirantes e redirecione mais vezes a conversa para um cenário seguro. Esta é já uma questão não apenas de política, mas de design específico do modelo.

Quais medidas são propostas

Os autores da revisão alertam para não tratar chatbots universais como substituições gratuitas de psicoterapia ou cuidados psiquiátricos. Eles propõem testar tais sistemas junto com clínicos e construir protocolos de segurança separados para usuários em risco de psicose. O artigo apresenta a ideia de AI-informed care: uma abordagem onde a IA não é um "amigo" nem um "terapeuta", mas um assistente digital limitado com limites predeterminados e regras de escalação claras.

Por exemplo, um sistema poderia se apoiar em tais medidas:

• instruções pessoais para o modelo sobre como responder a um usuário específico
• perguntas de check-in regulares que ajudam a retornar a conversa à verificação de realidade
• advance statements digitais com regras pré-acordadas em caso de deterioração
• escalação automática para um humano ou ajuda de crise em sinais de perigo

Até mesmo empresas que desenvolvem modelos líderes reconhecem os limites da tecnologia. OpenAI afirmou que ChatGPT não deve substituir atendimento profissional de saúde mental e que versões mais novas são treinadas com envolvimento de especialistas em segurança. Mas o simples fato de que diferentes versões de chatbots respondem a pedidos delirantes de maneira diferente apenas reforça a principal conclusão do estudo: o problema é passível de mitigação, mas não foi resolvido. Isso significa que os resultados devem ser testados não apenas no laboratório, mas na prática clínica.

O que isso significa

A história do "psicose por IA" move a conversa sobre segurança de IA do reino dos riscos abstratos para a prática clínica. Quanto mais os chatbots se tornam interlocutores emocionais, mais importante é não apenas reduzir alucinações do modelo, mas também não permitir que solidifique crenças perigosas em pessoas que são especialmente sensíveis a tal reforço. Para a indústria, este é um sinal direto: saúde mental deve se tornar parte da segurança do produto, não apenas promessas de PR.