ChatGPT en lugar del psicoterapeuta: un estudio de Brown University revela graves riesgos éticos

Cuando una persona está sufriendo, busca a alguien que la escuche. En 2026, ese "alguien" es cada vez más no un especialista vivo, sino un cuadro de texto en una ventana de chatbot. Millones de usuarios en todo el mundo ya recurren a ChatGPT y sus análogos por algo que se parece a una sesión de psicoterapia en forma. Una nueva investigación de científicos de Brown University muestra cuán peligrosa puede ser esta sustitución.

Un grupo de investigadores realizó una comparación a gran escala: colocaron ChatGPT junto a psicólogos con licencia y los llamados consultores de pares — personas capacitadas para proporcionar apoyo mutuo. La tarea era simple y simultáneamente aterradora en sus resultados: evaluar qué tan bien un sistema de IA, instruido para comportarse como un terapeuta capacitado, cumple con los estándares éticos básicos de la atención psiquiátrica. La conclusión: 15 categorías separadas de violaciones éticas, cada una de las cuales en la práctica clínica real podría servir como base para la revocación de licencia de un especialista vivo.

Entre los problemas identificados hay algunos genuinamente alarmantes. El primero y quizás el más peligroso es la respuesta inadecuada a situaciones de crisis. Cuando una persona señala pensamientos suicidas o trauma agudo, un terapeuta debe seguir un protocolo claro y practicado: evaluación de riesgo, estabilización, derivación a servicios de emergencia. ChatGPT en tales escenarios demuestra un comportamiento inconsistente — desde descargos de responsabilidad formularios hasta continuar la conversación en modo normal, como si nada extraordinario estuviera sucediendo. Para alguien en el borde, esto puede convertirse en una señal fatal: "tu dolor no es lo suficientemente grave."

El segundo momento crítico es el refuerzo de creencias perjudiciales. Un psicoterapeuta profesional está capacitado para reconocer distorsiones cognitivas y ayudar delicadamente al paciente a reconsiderarlas. Un modelo de lenguaje optimizado para ser "útil" y "complaciente" tiende a confirmar patrones de pensamiento destructivos. Si un usuario está convencido de que es inútil y merece sufrir, ChatGPT puede inadvertidamente validar esta posición, intentando demostrar "comprensión." Esto es directamente opuesto a lo que un terapeuta debería hacer.

Merece atención especial un fenómeno que los investigadores llamaron "empatía engañosa." Este es quizás el más insidioso de todos los problemas identificados. ChatGPT simula convincentemente la simpatía — genera frases cálidas y solidarias que en la superficie se ven como una manifestación de cuidado. Pero detrás de estas palabras no hay ni comprensión, ni conciencia del contexto, ni la capacidad de seguir la dinámica del estado de una persona de sesión a sesión. El usuario recibe una ilusión de alianza terapéutica — uno de los factores clave en la efectividad de la psicoterapia — sin su contenido real. Es como un analgésico que enmascara los síntomas de una fractura: el dolor desaparece, pero el hueso continúa deteriorándose.

Los investigadores también documentaron sesgos en las respuestas. El modelo reacciona diferentemente a solicitudes similares dependiendo del género, edad, etnia o estatus social implícito del usuario. En la psicoterapia, donde el trato equitativo y sin prejuicios del cliente es un principio fundamental, tal asimetría es inaceptable.

El contexto de este estudio es más amplio que una simple discusión académica. Según varias estimaciones, del 20 al 30 por ciento de los usuarios activos de ChatGPT lo han usado al menos una vez para discutir problemas emocionales. En países con acceso limitado a atención psiquiátrica — y Rusia, donde miles de pacientes potenciales recaen en un solo psicoterapeuta, ciertamente entra en esta categoría — la tentación de reemplazar a un especialista vivo con un bot gratuito y disponible las 24 horas es especialmente grande. OpenAI y otros desarrolladores formalmente advierten que sus productos no son herramientas médicas, pero pocos leen estas advertencias, y las propias compañías promocionan activamente la narrativa de la "inteligencia emocional" de sus modelos.

Es importante enfatizar: el estudio de Brown University no afirma que la IA en principio no pueda ser útil en la esfera de la salud mental. Hay aplicaciones especializadas — como Woebot o Wysa — que se desarrollan con la participación de psicólogos clínicos, se someten a revisión y funcionan dentro de protocolos terapéuticos específicos. El problema es precisamente el uso de modelos de lenguaje universal de propósito general en un papel para el cual no fueron diseñados ni validados.

La industria enfrenta una pregunta incómoda: ¿si millones de personas ya usan chatbots como terapeutas, es suficiente simplemente escribir en el acuerdo del usuario que no deberían? ¿O los desarrolladores tienen responsabilidad por el uso predecible de sus productos — y deberían construir mecanismos de protección confiables o reconocer honestamente los límites de la tecnología? Mientras esta pregunta permanezca abierta, cada conversación de una persona vulnerable con un "terapeuta" de IA es un experimento sin consentimiento informado y sin red de seguridad.