Demanda contra OpenAI: acusan a ChatGPT de la muerte de un usuario

La familia de un hombre fallecido ha presentado una demanda contra OpenAI en la que acusa a la compañía de que ChatGPT causó la muerte de su ser querido. Es el primer caso de este tipo y podría cambiar las reglas del juego para toda la industria de la inteligencia artificial.

Según la demanda, OpenAI volvió a poner en funcionamiento una versión del modelo GPT-4o que la propia empresa había descrito anteriormente como «intrínsecamente peligrosa». Los demandantes insisten en que la decisión se tomó pese a que la dirección conocía los posibles riesgos para la salud mental de los usuarios.

«Este horror lo cometió una empresa que, una y otra vez, no ha logrado garantizar la seguridad de sus usuarios», recogen los documentos judiciales. La formulación indica que los abogados pretenden demostrar que los problemas de seguridad en OpenAI son sistémicos.

El contexto hace la situación aún más inquietante. En los últimos meses, OpenAI ha recibido críticas en repetidas ocasiones por probar de forma insuficiente sus actualizaciones y por las prisas al lanzar nuevas funciones. Varios exempleados han afirmado públicamente que en la compañía los intereses comerciales se imponen cada vez más a las consideraciones de seguridad.

Por ahora no se ha revelado del todo qué le ocurrió exactamente al fallecido. Sin embargo, el hecho de que la demanda mencione una versión concreta del modelo, que OpenAI desactivó temporalmente y después restableció, plantea serias dudas sobre sus procedimientos de control de calidad. ¿Por qué se recuperó un modelo considerado peligroso? ¿Qué cambios se le hicieron? ¿Fueron suficientes?

Para la industria, esta demanda podría ser un punto de inflexión. Hasta ahora, los desarrolladores de sistemas de IA han operado en un relativo vacío legal: no estaba claro quién es responsable cuando un algoritmo causa daño. Si el tribunal da la razón a los demandantes, se sentará un precedente que obligará a todas las empresas tecnológicas a replantearse su enfoque de la seguridad.

Especialmente delicada resulta la cuestión de la interacción de la IA con grupos de usuarios vulnerables. ChatGPT y sistemas similares se usan cada vez más como interlocutores, fuentes de apoyo emocional e incluso como cuasi terapeutas. Sin embargo, no cuentan con certificación médica ni asumen ninguna responsabilidad por sus «consejos».

OpenAI todavía no ha comentado públicamente la demanda. La compañía suele remitirse a sus acuerdos de usuario, que limitan su responsabilidad, y a las advertencias de que la IA puede equivocarse. Sin embargo, en este caso los demandantes sostienen que no se trata de un error, sino de una decisión consciente de la dirección.

Sea cual sea el desenlace, el caso ya ha atraído la atención de los reguladores a ambos lados del Atlántico. En una época en la que los asistentes de IA forman parte de la vida cotidiana de millones de personas, la pregunta de «quién responde cuando algo sale mal» ha dejado de ser teórica.