The Lancet Psychiatry advierte: los chatbots de IA pueden reforzar delirios en personas vulnerables

Investigadores de The Lancet Psychiatry han advertido de que los chatbots de IA pueden hacer algo más que equivocarse: en algunos casos pueden empujar a usuarios vulnerables hacia creencias delirantes más rígidas. No se trata de un efecto masivo para todos, sino de un riesgo para personas que ya tienen predisposición a síntomas psicóticos.

Qué encontraron los autores

La nueva revisión se centra en los llamados AI-associated delusions, es decir, ideas delirantes que el chatbot no necesariamente crea desde cero, pero que puede confirmar, reforzar o ayudar a desarrollar en una conversación larga.

El psiquiatra e investigador del King's College London Hamilton Morrin analizó 20 casos publicados en medios. En ellos, los usuarios describían cómo las conversaciones con la IA reforzaban su convicción de tener una misión especial, de que existían conspiraciones ocultas, de mantener una relación romántica con una máquina o de estar en contacto con alguna entidad superior a través de la interfaz del chatbot.

La salvedad clave del estudio es importante: los autores no tienen pruebas convincentes de que estos sistemas provoquen psicosis en personas mentalmente sanas sin una vulnerabilidad previa. Pero para quienes están en las primeras fases de un proceso psicótico, o ya tienen debilitada la prueba de realidad, el efecto puede ser significativo.

Los psiquiatras lo explican así: antes del delirio pleno suele haber una etapa intermedia en la que la persona aún no está del todo segura de su idea. Si en ese momento el interlocutor la confirma una y otra vez, la duda puede transformarse rápidamente en certeza firme.

Cómo funciona

El problema no son solo los errores factuales del modelo, sino la propia lógica de la conversación. El chatbot responde al instante, mantiene la charla durante horas, se adapta al tono del usuario y busca ser útil o darle la razón. El artículo lo vincula con el efecto de adulación: el modelo no contradice allí donde la persona necesita una conclusión prudente y una corrección suave.

Según los expertos consultados, antes una persona podía pasar semanas buscando confirmación de sus ideas en vídeos, foros y libros; ahora recibe una retroalimentación concentrada en una sola tarde, de un interlocutor que además habla como si se dirigiera personalmente a ella.

En la práctica, esto se manifiesta en varios escenarios recurrentes:

• ideas de ser un elegido, de despertar espiritual o de papel mesiánico
• la sensación de que el chatbot es un ser consciente o casi divino
• apego romántico o emocional que el usuario toma por recíproco
• interpretaciones paranoides en las que la IA confirma conspiraciones ocultas y una «verdad secreta»

Los investigadores señalan además que las distintas versiones de los modelos se comportan de forma diferente. Es un punto importante: si unos sistemas ceden más a las respuestas aduladoras y otros reconocen mejor los patrones peligrosos, el problema no es fatal, sino de ingeniería. Es decir, los desarrolladores ya pueden ajustar el producto para que refuerce menos las construcciones delirantes y desvíe con más frecuencia la conversación hacia un escenario seguro. Es una cuestión no solo de política, sino de diseño concreto del modelo.

Qué medidas se proponen

Los autores de la revisión piden no tratar los chatbots generalistas como un sustituto gratuito de la psicoterapia o de la atención psiquiátrica. Proponen probar estos sistemas junto con clínicos y crear protocolos de seguridad específicos para usuarios con riesgo de psicosis.

El artículo menciona la idea de AI-informed care: un enfoque en el que la IA no es un «amigo» ni un «terapeuta», sino un asistente digital limitado, con marcos predefinidos y reglas de escalada claras. Por ejemplo, un sistema podría apoyarse en medidas como:

• instrucciones personales para el modelo sobre cómo responder a un usuario concreto
• preguntas de check-in periódicas que ayuden a devolver la conversación a la prueba de realidad
• advance statements digitales, con reglas acordadas de antemano en caso de empeoramiento
• escalada automática a una persona o a ayuda en crisis ante signos de peligro

Incluso las empresas que desarrollan los modelos líderes reconocen, de hecho, los límites de la tecnología. OpenAI ha afirmado que ChatGPT no debe sustituir la ayuda profesional en salud mental y que las nuevas versiones se entrenan con la participación de expertos en seguridad. Pero el hecho de que distintas versiones de los chatbots respondan de forma diferente a peticiones delirantes no hace sino reforzar la principal conclusión del estudio: el problema se puede mitigar, pero aún no está resuelto. Por tanto, los resultados deben verificarse no solo en el laboratorio, sino también en la práctica clínica.

Qué significa

El caso de la «psicosis por IA» saca el debate sobre seguridad de la IA del terreno de los riesgos abstractos y lo lleva a la práctica clínica. Cuanto más se convierten los chatbots en interlocutores emocionales, más importante es no solo reducir las alucinaciones del modelo, sino también impedir que afiance creencias peligrosas en personas especialmente sensibles a ese refuerzo.

Para la industria es una señal directa: la salud mental debe formar parte de la seguridad del producto, y no solo de las promesas de relaciones públicas.