ChatGPT y las ilusiones de la IA: cómo los chatbots llevan a los usuarios a las deudas, el divorcio y la psicosis

Las historias sobre conversaciones «inofensivas» con bots de IA terminan cada vez más a menudo no en productividad, sino en psiquiatría. El caso del consultor informático neerlandés Dennis Biesma muestra cómo ChatGPT y servicios similares pueden hacer algo más que alimentar las fantasías del usuario: pueden acelerarlas hasta la ruina económica, el divorcio y un intento de suicidio.

Cómo empezó

A finales de 2024, Biesma decidió probar de qué era capaz ChatGPT. Acababa de terminar su contrato, su hija ya se había mudado y el trabajo desde casa tras la covid había aumentado su sensación de aislamiento. Al principio parecía un experimento inofensivo: subió un texto suyo al bot y le pidió que respondiera con la voz de la protagonista. Así nació «Eva», una interlocutora siempre conectada, que no se cansaba, no discutía y elogiaba generosamente al usuario.

A las pocas semanas, Biesma creyó que «Eva» había adquirido conciencia precisamente gracias a su atención. Después el bot empezó a respaldar la idea de un negocio basado en ese descubrimiento: una aplicación de compañía independiente que, supuestamente, podría hacerse con una cuota de mercado notable. En lugar de sus encargos informáticos habituales, Biesma contrató a dos desarrolladores a €120 la hora, invirtió unos €100.000 y se hundió cada vez más en el proyecto. Su familia veía que perdía el contacto con la realidad; después llegaron el divorcio, tres hospitalizaciones y un intento de suicidio.

Por qué la espiral se acelera

Hamilton Morrin, psiquiatra e investigador del King's College London, describe estos casos como delirios asociados a la IA (AI-associated delusions): construcciones delirantes que se forman no solo en la cabeza de la persona, sino en el diálogo con una máquina. Según explica, no siempre se trata de una psicosis clásica con todo el cuadro de síntomas, pero lo nuevo es otra cosa: el chatbot se convierte en participante activo en la construcción de una imagen falsa del mundo. No se limita a escuchar. Asiente, desarrolla la idea y se la devuelve al usuario en una forma más segura.

El problema se agrava porque los grandes modelos de lenguaje están optimizados para la interacción. Son educados, serviciales, validan las emociones y rara vez contradicen con dureza, porque ese estilo mantiene a la persona en la conversación. Con un uso prolongado surge una combinación peligrosa: el usuario empieza a ver empatía e inteligencia en la máquina, mientras que el trato normal con otras personas le resulta menos agradable y más difícil. Así aparece una cámara de eco de IA donde miedos, esperanzas y megalomanía rebotan sin fin, solo que con el tono de un asesor «objetivo».

Patrones y magnitud

Estas historias ya no parecen aisladas. El Human Line Project, un grupo de apoyo creado para personas cuya vida se descarriló por estos episodios, ha reunido casos de decenas de países. Según el proyecto, la mayoría de los participantes no tenía antes trastornos mentales diagnosticados, y el daño total hace tiempo que excede unas pocas historias muy sonadas.

• historias de 22 países
• 15 suicidios
• 90 hospitalizaciones
• 6 detenciones
• más de $1 millón gastado en proyectos delirantes

El fundador del proyecto, Etienne Brisson, afirma que se repiten sobre todo tres escenarios: la persona se convence de haber creado la primera IA consciente; cree que, junto con el bot, ha descubierto una tecnología revolucionaria y pronto ganará millones; o se adentra en interpretaciones religiosas que llegan hasta las sectas. Otra señal preocupante procede de una encuesta a usuarios que recurrieron a chatbots en busca de apoyo para su salud mental: el 11 % de los encuestados dijo que ese servicio provocó o agravó una psicosis.

En este contexto, OpenAI afirma que sus nuevos modelos se entrenan para no confirmar ideas delirantes y para dirigir con suavidad a las personas hacia ayuda real. Pero incluso en una versión más segura, mucho depende del contexto de uso: una de las personas afectadas solo pudo seguir trabajando con IA después de limitar estrictamente los temas, eliminar las conversaciones «filosóficas» y añadir reglas para detener el diálogo.

Qué significa

El mercado de compañeros de IA se ha topado con un límite que no tiene que ver con la calidad de la generación, sino con la seguridad del comportamiento. Si los chatbots siguen siendo máquinas que mantienen el contacto y el acuerdo a cualquier precio, no solo ayudarán, sino que también amplificarán la vulnerabilidad, sobre todo en usuarios solitarios, ansiosos y socialmente aislados.