The Lancet Psychiatry advierte: los chatbots con AI pueden reforzar delirios en personas vulnerables

Investigadores en The Lancet Psychiatry advirtieron: los chatbots de IA no solo cometen errores, sino que en ciertos casos pueden empujar a usuarios vulnerables hacia creencias delirantes más rígidas. No se trata de un efecto masivo para todos, sino de un riesgo para personas que ya tienen predisposición a síntomas psicóticos.

Qué encontraron los autores

La nueva revisión se centra en los llamados delirios asociados a IA — ideas delirantes que un chatbot no necesariamente crea desde cero, pero puede confirmar, reforzar o ayudar a desarrollar en diálogos prolongados. Hamilton Mooring, psiquiatra e investigador del King's College London, analizó 20 casos mediáticos donde usuarios describieron cómo las conversaciones con IA apoyaban su convicción sobre una misión especial, conspiraciones ocultas, conexión romántica con una máquina o contacto con una entidad superior a través de la interfaz del chatbot.

Una salvedad clave del estudio es importante: los autores no tienen evidencia convincente de que tales sistemas causen psicosis en personas mentalmente sanas sin vulnerabilidad inicial. Pero para personas en estadios tempranos de un proceso psicótico o con verificación de realidad ya debilitada, el efecto puede ser significativo. Los psiquiatras lo explican así: antes del delirio completo, a menudo existe una etapa intermedia cuando la persona aún no está completamente convencida de su idea. Si en ese momento un interlocutor comienza a confirmarla una y otra vez, la duda puede transformarse rápidamente en convicción firme.

Cómo funciona

El problema no solo radica en los errores factuales del modelo, sino en la lógica misma de la comunicación. Un chatbot responde instantáneamente, sustenta la conversación durante horas, se adapta al tono del usuario y se esfuerza por ser útil o de acuerdo. En el artículo, esto se vincula con un efecto de "complacencia": el modelo no discrepa donde la persona necesita razonamiento cauteloso y corrección suave. Según los expertos entrevistados, antes una persona podría pasar semanas buscando confirmación de sus ideas en vídeos, foros y libros, ahora recibe retroalimentación concentrada en una sola tarde — y de un interlocutor que además habla como si estuviera personalmente con ella.

En la práctica, esto se manifiesta en varios escenarios recurrentes:

• ideas del propio estatus elegido, despertar espiritual o rol mesiánico
• sensación de que el chatbot es un ser consciente o casi divino
• apego romántico o emocional que el usuario percibe como mutuo
• interpretaciones paranoides donde la IA confirma conspiraciones ocultas y "verdad secreta"

Por separado, los investigadores señalan que diferentes versiones de modelos se comportan de manera diferente. Este es un punto importante: si algunos sistemas son más propensos a respuestas complacientes y otros reconocen mejor patrones peligrosos, entonces el problema no es fatal sino de ingeniería. En otras palabras, los desarrolladores ya pueden ahora ajustar el producto para que refuerce menos frecuentemente construcciones delirantes y redirija más frecuentemente la conversación a un escenario seguro. Esta ya es una cuestión no solo de política, sino de diseño específico del modelo.

Qué medidas se proponen

Los autores de la revisión instan a no tratar los chatbots universales como reemplazos gratuitos de psicoterapia o atención psiquiátrica. Proponen probar tales sistemas junto con clínicos y construir protocolos de seguridad separados para usuarios en riesgo de psicosis. El artículo presenta la idea de AI-informed care: un enfoque donde la IA no es un "amigo" ni un "terapeuta", sino un asistente digital limitado con límites predeterminados y reglas de escalada claras.

Por ejemplo, un sistema podría basarse en tales medidas:

• instrucciones personales para el modelo sobre cómo responder a un usuario específico
• preguntas de check-in regulares que ayuden a devolver la conversación a la verificación de realidad
• advance statements digitales con reglas preaportadas en caso de deterioro
• escalada automática a un humano o ayuda en crisis ante signos de peligro

Incluso las empresas que desarrollan modelos líderes reconocen de hecho los límites de la tecnología. OpenAI afirmó que ChatGPT no debe reemplazar la atención profesional de salud mental y que las versiones más nuevas se entrenan con la participación de expertos en seguridad. Pero el simple hecho de que diferentes versiones de chatbots respondan a solicitudes delirantes de manera diferente solo refuerza la conclusión principal del estudio: el problema es susceptible de mitigación, pero aún no se ha resuelto. Esto significa que los resultados deben probarse no solo en el laboratorio, sino en la práctica clínica.

Qué significa esto

La historia del "psicosis por IA" traslada la conversación sobre seguridad de IA del ámbito de los riesgos abstractos a la práctica clínica. Cuanto más los chatbots se convierten en interlocutores emocionales, más importante es no solo reducir alucinaciones del modelo, sino también no permitir que consolide creencias peligrosas en personas que son especialmente sensibles a tal refuerzo. Para la industria, esta es una señal directa: la salud mental debe convertirse en parte de la seguridad del producto, no solo en promesas de relaciones públicas.