Demanda contra OpenAI: acusan a ChatGPT de causar la muerte de un usuario

La familia de un hombre fallecido ha presentado una demanda contra OpenAI, acusando a la empresa de causar la muerte de su ser querido a través de ChatGPT. Este es el primer caso de este tipo y podría cambiar las reglas para toda la industria de inteligencia artificial.

Según los materiales de la demanda, OpenAI reactivó una versión del modelo GPT-4o que la propia empresa había caracterizado anteriormente como "inherentemente peligrosa". Los demandantes insisten en que esta decisión se tomó a pesar de que la dirección era consciente de los riesgos potenciales para la salud mental de los usuarios.

"Este horror fue cometido por una empresa que repetidamente ha fallado en garantizar la seguridad de sus usuarios", afirman los documentos judiciales. El lenguaje sugiere que los abogados tienen la intención de probar la naturaleza sistémica de los problemas de seguridad en OpenAI.

El contexto de la situación la hace aún más alarmante. En los últimos meses, OpenAI ha enfrentado repetidamente críticas por pruebas insuficientes de actualizaciones y apresuramiento en el lanzamiento de nuevas funciones. Varios ex empleados han declarado públicamente que los intereses comerciales de la empresa cada vez más prevalecen sobre las consideraciones de seguridad.

Lo que exactamente sucedió con el usuario fallecido aún no se ha divulgado completamente. Sin embargo, el simple hecho de que la demanda mencione una versión específica del modelo que OpenAI había desactivado temporalmente y luego reactivado plantea serias preguntas sobre los procedimientos de control de calidad. ¿Por qué se reactivó un modelo considerado peligroso? ¿Qué cambios se le realizaron? ¿Fueron suficientes?

Para la industria, esta demanda podría ser un momento decisivo. Hasta ahora, los desarrolladores de sistemas de IA han existido en un relativo vacío legal — no estaba claro quién es responsable cuando un algoritmo causa daño. Si la corte se posiciona a favor de los demandantes, sentará un precedente que obligará a todas las empresas tecnológicas a reconsiderar sus enfoques de seguridad.

La cuestión de la interacción de la IA con grupos de usuarios vulnerables es particularmente aguda. ChatGPT y sistemas similares se utilizan cada vez más como compañeros de conversación, fuentes de apoyo emocional e incluso cuasi-terapeutas. Sin embargo, no tienen certificación médica y no son responsables de sus "consejos".

OpenAI aún no ha comentado públicamente sobre la demanda. La empresa tradicionalmente se basa en acuerdos de usuario que limitan su responsabilidad y advertencias de que la IA puede cometer errores. Sin embargo, en este caso, los demandantes argumentan que no se trata de un error, sino de una decisión consciente de la dirección.

Independientemente del resultado, el caso ya ha atraído la atención de reguladores en ambos lados del Atlántico. En una era en que los asistentes de IA se están convirtiendo en parte de la vida cotidiana de millones de personas, la pregunta "¿quién es responsable cuando algo sale mal?" deja de ser teórica.