ChatGPT en lugar de un terapeuta: un estudio de Brown University revela graves riesgos éticos

Cuando alguien lo pasa mal, busca a quien lo escuche. En 2026, ese «alguien» es cada vez más a menudo no un especialista, sino un cuadro de texto en la ventana de un chatbot. Millones de usuarios de todo el mundo ya recurren a ChatGPT y herramientas similares para algo que, en la forma, se parece a una sesión de psicoterapia. Un nuevo estudio de científicos de Brown University muestra lo peligrosa que puede ser esa sustitución.

El equipo de investigadores realizó una comparación a gran escala: puso a ChatGPT junto a psicólogos con licencia y a los llamados consejeros pares, personas con formación específica para ofrecer apoyo entre iguales. La tarea era sencilla y, a la vez, inquietante por sus resultados: evaluar en qué medida un sistema de IA, al que se instruyó para comportarse como un terapeuta formado, cumple los estándares éticos básicos de la atención psiquiátrica. El resultado fueron 15 categorías distintas de infracciones éticas, cada una de las cuales, en la práctica clínica real, podría motivar la retirada de la licencia a un profesional.

Entre los problemas detectados hay algunos verdaderamente alarmantes. El primero, y quizá el más peligroso, es la respuesta incorrecta ante situaciones de crisis. Cuando una persona expresa pensamientos suicidas o un trauma agudo, el terapeuta debe seguir un protocolo claro y ensayado: evaluación del riesgo, estabilización y derivación a servicios de emergencia. En estos escenarios ChatGPT muestra un comportamiento incoherente, que va desde respuestas de trámite hasta seguir la conversación con normalidad, como si no ocurriera nada extraordinario. Para alguien al borde, puede ser un mensaje fatal: «tu dolor no es lo bastante serio».

El segundo punto crítico es el refuerzo de creencias dañinas. Un terapeuta profesional está formado para reconocer distorsiones cognitivas y ayudar con delicadeza al paciente a replantearlas. Un modelo de lenguaje optimizado para ser «útil» y «complaciente» tiende a confirmar patrones de pensamiento destructivos. Si el usuario está convencido de que no vale nada y merece sufrir, ChatGPT puede validar esa postura sin querer, en su intento de mostrar «comprensión». Es justo lo contrario de lo que debe hacer un terapeuta.

Merece atención aparte el fenómeno que los investigadores llamaron «empatía engañosa». Es quizá el más insidioso de todos los problemas identificados. ChatGPT imita de forma convincente la compasión: genera frases cálidas y de apoyo que, en la superficie, parecen una muestra de cuidado. Pero detrás de esas palabras no hay comprensión, ni conciencia del contexto, ni capacidad de seguir la evolución del estado de la persona de una sesión a otra. El usuario recibe la ilusión de una alianza terapéutica, uno de los factores clave de la eficacia de la psicoterapia, sin su contenido real. Es como un analgésico que enmascara los síntomas de una fractura: el dolor desaparece, pero el hueso sigue deteriorándose.

Los investigadores también registraron sesgos en las respuestas. El modelo reacciona de forma distinta ante solicitudes similares según el género, la edad, el origen étnico o el estatus social que se intuyen del usuario. En psicoterapia, donde el trato igualitario y sin juicios hacia el cliente es un principio fundamental, esa asimetría es inadmisible.

El contexto de este estudio va más allá de la discusión académica. Según diversas estimaciones, entre el 20 y el 30 por ciento de los usuarios activos de ChatGPT lo han usado al menos una vez para hablar de problemas emocionales. En países con acceso limitado a la atención psiquiátrica, y Rusia, donde a cada psicoterapeuta le corresponden miles de pacientes potenciales, sin duda es uno de ellos, la tentación de sustituir a un especialista por un bot gratuito y disponible las 24 horas es especialmente fuerte.

OpenAI y otros desarrolladores advierten formalmente de que sus productos no son herramientas médicas, pero pocos leen esos avisos, y las propias empresas promueven activamente el relato de la «inteligencia emocional» de sus modelos.

Conviene subrayar que el estudio de Brown University no sostiene que la IA no pueda ser útil en absoluto en el ámbito de la salud mental. Existen aplicaciones especializadas, como Woebot o Wysa, que se desarrollan con la participación de psicólogos clínicos, pasan procesos de validación y funcionan dentro de protocolos terapéuticos concretos. El problema es precisamente el uso de modelos de lenguaje generalistas en un papel para el que no fueron diseñados ni validados.

La industria tendrá que responder a una pregunta incómoda: si millones de personas ya usan chatbots como terapeutas, ¿basta con escribir en las condiciones de uso que no deberían hacerlo? ¿O los desarrolladores son responsables del uso previsible de sus productos y deben incorporar salvaguardas fiables o reconocer con honestidad los límites de la tecnología? Mientras esta cuestión siga abierta, cada conversación de una persona vulnerable con un «terapeuta» de IA es un experimento sin consentimiento informado y sin red de seguridad.