Una víctima de acoso demanda a OpenAI: la compañía ignoró tres advertencias sobre la amenaza

La estadounidense OpenAI se enfrenta a una nueva demanda. Una mujer que sufrió durante meses el acoso de su expareja sostiene que ChatGPT no solo no frenó al agresor, sino que alimentó activamente sus creencias patológicas, mientras la compañía ignoraba una y otra vez las señales de peligro. Según la demanda, el hombre utilizó ChatGPT de forma sistemática mientras acosaba a su exnovia.

El argumento central de la demandante es que OpenAI recibió al menos tres advertencias de que ese usuario concreto suponía una amenaza. Una de ellas fue una alerta interna de la propia compañía, que lo marcaba como potencialmente capaz de causar víctimas masivas. Aun así, no se le restringió el acceso al servicio y los avisos se ignoraron.

Según la demandante, el chatbot no se limitaba a proporcionar información: de facto respaldaba el relato del acosador y lo reafirmaba en el papel de «víctima del sistema» o de «elegido», con lo que reforzaba las ideas delirantes que impulsaban su conducta. Se trata de una acusación muy distinta a las reclamaciones por «contenido dañino» en el sentido clásico: lo que se plantea es que el sistema participó activamente en el mecanismo psicológico del delito. Las demandas contra los desarrolladores de AI generativa se han multiplicado en los últimos años.

El precedente más sonado es el caso contra Character.AI: los padres de un adolescente fallecido acusaron a la empresa de que el chatbot empujó a su hijo al suicidio al alentar y respaldar sus pensamientos autodestructivos. Ambos casos comparten una misma lógica: los sistemas de AI actuales no se limitan a transmitir información; establecen un vínculo emocional, validan las creencias de su interlocutor y pueden acabar formando parte de patrones de conducta destructivos.

El aspecto jurídico sigue siendo objeto de debate. En Estados Unidos, las plataformas están protegidas tradicionalmente por la Section 230, que las exime de responsabilidad por el contenido de terceros. Sin embargo, las respuestas de la AI generativa no son una republicación de textos ajenos ni un alojamiento pasivo: el sistema genera el contenido por sí mismo, en tiempo real y adaptándose a cada usuario.

Algunos juristas consideran que en estos casos la Section 230 debe aplicarse de otra manera, y que serán precisamente demandas como esta las que construyan una jurisprudencia que todavía no existe. OpenAI afirma que su política de uso prohíbe expresamente emplear ChatGPT para acosar, amenazar o manipular. Pero la brecha entre lo que dicen los Terms of Service y las restricciones técnicas es evidente.

Si el sistema interno de la propia compañía marcó al usuario como potencialmente peligroso y aun así no se le bloqueó el acceso, esa contradicción difícilmente se explica remitiéndose solo a las normas. El caso plantea una pregunta que la industria de la AI ha esquivado sistemáticamente: ¿hasta dónde llega la responsabilidad de una plataforma cuando su herramienta causa daño a una persona concreta? Un fabricante de automóviles responde por unos frenos defectuosos.

Una farmacéutica, por efectos secundarios peligrosos. Los estándares para los sistemas de AI aún no existen y, a juzgar por la creciente ola de demandas, serán los tribunales quienes los definan.