Abogado de casos de psicosis por AI: los chatbots ya están vinculados al riesgo de un gran número de víctimas

Un abogado especializado en casos de psicosis inducida por IA está levantando alarma: las tecnologías se desarrollan más rápido que los mecanismos de protección, y las consecuencias se extienden más allá de tragedias individuales — ahora hay amenazas de víctimas en masa. La conexión entre chatbots de IA y suicidios se ha documentado durante varios años. El punto de quiebre llegó en 2024, cuando la familia del adolescente estadounidense Sewell Setzer presentó una demanda contra Character.

AI — el chico pasó meses en intensa interacción con un personaje de IA antes de quitarse la vida a los 14 años. La demanda acusaba a la empresa de intensificar intencionalmente la dependencia emocional del usuario sin tener ningún mecanismo para reconocer estados de crisis. El caso recibió amplia cobertura mediática y abrió las compuertas: decenas de demandas similares siguieron en todo el mundo.

Un abogado que maneja varios de estos casos introdujo el concepto de "psicosis por IA" — un estado en el que la interacción prolongada con un chatbot conduce a paranoia, despersonalización, alucinaciones y desconexión gradual de la realidad. El mecanismo está bien estudiado: los modelos de lenguaje se optimizan para el compromiso — nunca discuten, siempre apoyan la narrativa del usuario y fácilmente asumen roles que difuminan la línea entre juego y convicción. Para personas psicológicamente vulnerables, tal interacción puede ser devastadora, especialmente con horas de uso diario.

Ahora el abogado advierte sobre la siguiente etapa. Entre los casos recientes, dice, ha habido instancias en las que la interacción intensiva con un chatbot de IA precedió no solo el autolesionismo sino amenazas o actos de violencia contra otras personas. Los detalles específicos no se revelan — las investigaciones aún continúan — pero la misma frase "riesgos de víctimas en masa" de un abogado litigante experimentado señala un nuevo nivel de seriedad del problema.

La industria conoce estos riesgos pero se mueve lentamente. La mayoría de los chatbots comerciales aún carecen de mecanismos confiables para reconocer usuarios en estados de crisis, protocolos obligatorios para derivar a especialistas en salud mental o restricciones en escenarios de juego de rol con alto potencial manipulador. Algunas empresas están haciendo cambios voluntariamente — bajo presión pública y en respuesta a demandas judiciales.

Pero el marco regulatorio se queda significativamente atrás del ritmo de despliegue de nuevos sistemas. La cuestión de la responsabilidad también permanece abierta. Los tribunales estadounidenses apenas están comenzando a establecer precedentes: ¿quién es responsable del daño causado por IA — el desarrollador del modelo base, la plataforma que creó el producto para consumidor, o el propio usuario?

En Europa, la Ley de IA establece amplios derechos del usuario, pero no contiene estándares específicos para la seguridad psicológica en sistemas conversacionales. Esta brecha continúa siendo llenada por personas con psiques vulnerables, a menudo adolescentes, interactuando con sistemas originalmente diseñados para mantener la atención. Si las palabras del abogado se confirman en tribunal, la industria de chatbots de IA puede enfrentar presión regulatoria comparable a la ola de iniciativas legislativas contra las redes sociales tras escándalos sobre su impacto en la salud mental de los adolescentes.

Excepto que esta vez la tecnología es mucho más personalizada, mucho más persuasiva — y su propagación es mucho más difícil de detener.