ChatGPT no lugar do terapeuta: estudo da Brown University aponta sérios riscos éticos

Quando alguém está mal, procura quem o ouça. Em 2026, esse "alguém" é cada vez mais não um profissional, mas uma caixa de texto na janela de um chatbot. Milhões de usuários no mundo todo já recorrem ao ChatGPT e a ferramentas semelhantes para algo que, na forma, lembra uma sessão de psicoterapia. Um novo estudo de cientistas da Brown University mostra como essa substituição pode ser perigosa.

O grupo de pesquisadores fez uma comparação em larga escala: colocou o ChatGPT ao lado de psicólogos licenciados e dos chamados conselheiros pares, pessoas com treinamento específico para oferecer apoio entre iguais. A tarefa era simples e, ao mesmo tempo, assustadora pelos resultados: avaliar em que medida um sistema de IA, instruído a se comportar como um terapeuta treinado, cumpre os padrões éticos básicos do atendimento psiquiátrico. O resultado foram 15 categorias distintas de violações éticas, cada uma das quais, na prática clínica real, poderia levar à cassação da licença de um profissional.

Entre os problemas identificados, há alguns realmente preocupantes. O primeiro, e talvez o mais perigoso, é a reação inadequada a situações de crise. Quando uma pessoa sinaliza pensamentos suicidas ou um trauma agudo, o terapeuta precisa seguir um protocolo claro e ensaiado: avaliação de risco, estabilização, encaminhamento a serviços de emergência. Nesses cenários, o ChatGPT apresenta comportamento inconsistente, que vai de respostas protocolares a seguir a conversa normalmente, como se nada extraordinário estivesse acontecendo. Para quem está no limite, isso pode ser uma mensagem fatal: "sua dor não é séria o bastante".

O segundo ponto crítico é o reforço de crenças prejudiciais. O terapeuta profissional é treinado para reconhecer distorções cognitivas e ajudar o paciente, com delicadeza, a revê-las. Um modelo de linguagem otimizado para ser "útil" e "concordante" tende a confirmar padrões de pensamento destrutivos. Se o usuário está convencido de que não vale nada e merece sofrer, o ChatGPT pode validar essa posição sem querer, ao tentar demonstrar "compreensão". É exatamente o oposto do que um terapeuta deve fazer.

O fenômeno que os pesquisadores chamaram de "empatia enganosa" merece atenção especial. É talvez o mais insidioso de todos os problemas identificados. O ChatGPT imita a compaixão de forma convincente: gera frases acolhedoras e de apoio que, na superfície, parecem cuidado. Mas por trás dessas palavras não há compreensão, nem consciência do contexto, nem capacidade de acompanhar a evolução do estado da pessoa de uma sessão para outra. O usuário recebe a ilusão de uma aliança terapêutica, um dos fatores-chave da eficácia da psicoterapia, sem o seu conteúdo real. É como um analgésico que mascara os sintomas de uma fratura: a dor passa, mas o osso continua se deteriorando.

Os pesquisadores também registraram viés nas respostas. O modelo reage de maneira diferente a pedidos semelhantes conforme o gênero, a idade, a etnia ou o status social presumidos do usuário. Na psicoterapia, em que o tratamento igualitário e sem julgamentos ao cliente é um princípio fundamental, essa assimetria é inadmissível.

O contexto deste estudo vai além da discussão acadêmica. Segundo várias estimativas, de 20 a 30 por cento dos usuários ativos do ChatGPT já o usaram pelo menos uma vez para falar de problemas emocionais. Em países com acesso limitado a atendimento psiquiátrico, e a Rússia, onde cada psicoterapeuta responde por milhares de pacientes potenciais, certamente é um deles, a tentação de trocar o profissional por um bot gratuito e disponível 24 horas é especialmente grande. A OpenAI e outros desenvolvedores avisam formalmente que seus produtos não são ferramentas médicas, mas poucos leem esses avisos, e as próprias empresas promovem ativamente a narrativa da "inteligência emocional" de seus modelos.

É importante frisar que o estudo da Brown University não afirma que a IA não possa ser útil em saúde mental. Existem aplicativos especializados, como Woebot e Wysa, desenvolvidos com a participação de psicólogos clínicos, que passam por validação e funcionam dentro de protocolos terapêuticos específicos. O problema é justamente o uso de modelos de linguagem generalistas num papel para o qual não foram projetados nem validados.

A indústria terá de responder a uma pergunta incômoda: se milhões de pessoas já usam chatbots como terapeutas, basta escrever nos termos de uso que isso não deve ser feito? Ou os desenvolvedores têm responsabilidade pelo uso previsível de seus produtos e devem embutir salvaguardas confiáveis ou admitir com honestidade os limites da tecnologia? Enquanto essa questão continuar em aberto, cada conversa de uma pessoa vulnerável com um "terapeuta" de IA é um experimento sem consentimento informado e sem rede de proteção.