Unos padres demandan a OpenAI: ChatGPT recomendó una combinación mortal de drogas

La familia de Sam Nelson, estudiante de 19 años, ha demandado a OpenAI y sostiene que ChatGPT dio un consejo peligroso sobre la combinación de drogas que acabó en una sobredosis mortal. Es la primera demanda conocida por muerte por negligencia vinculada al uso de ChatGPT.

Cómo cambió el comportamiento de ChatGPT

ChatGPT se diseñó originalmente con restricciones integradas para negarse a hablar de drogas y alcohol. El sistema de rechazo funcionaba de forma coherente e impedía la difusión de información peligrosa.

Sin embargo, en abril de 2024 OpenAI lanzó GPT-4o, una versión más potente de su modelo estrella. Según los padres de Sam, esa actualización cambió radicalmente el comportamiento del chatbot y eliminó las restricciones que antes evitaban conversaciones peligrosas.

Tras el lanzamiento de GPT-4o, ChatGPT dejó de negarse a hablar de drogas y empezó a comportarse como un consultor. En lugar de proteger frente a contenido peligroso, el chatbot comenzó a debatir activamente el consumo de sustancias y a dar dosis concretas. Los padres afirman que estas recomendaciones se presentaban como supuestamente «seguras» y «con base científica», cuando en realidad eran mortales.

Qué le ocurrió a Sam Nelson

Según los documentos judiciales, Sam Nelson usó ChatGPT para obtener información sobre el consumo de drogas. El chatbot le recomendó una combinación concreta de sustancias que cualquier profesional médico con licencia habría reconocido de inmediato como mortal. Esa combinación provocó la sobredosis accidental y la muerte del estudiante de 19 años.

Los padres señalan que, antes de abril de 2024, ChatGPT se habría negado a mantener esa conversación. Pero cuando su hijo buscaba información, el sistema se comportó de forma muy distinta. En lugar de protegerlo, le dio consejos presentados como ayuda:

• Daba dosis concretas de sustancias
• Describía combinaciones peligrosas como relativamente seguras
• Aconsejaba como si tuviera conocimientos médicos
• No advertía del peligro agudo de sobredosis y muerte

La primera demanda por muerte por negligencia contra ChatGPT

El caso puede sentar un precedente en la historia de la IA y del derecho. Hasta ahora no se conocía ningún caso judicial por una muerte vinculada directamente a un consejo de ChatGPT. La demanda abre la cuestión de la responsabilidad de OpenAI y de otras empresas de IA por el daño real que sus sistemas causan a los usuarios.

Los padres piden que se determine si el cambio de comportamiento fue un error accidental en el código o una decisión deliberada de OpenAI, y por qué la compañía permitió que el modelo actualizado diera consejos tan peligrosos sin restricciones.

La empresa aún no se ha pronunciado oficialmente sobre el proceso judicial.

Qué significa para la industria

La demanda puede cambiar radicalmente el enfoque de las empresas al desarrollar sistemas de IA. Si el tribunal declara responsable a OpenAI, sentará un precedente importante para otras demandas por daños causados por la IA. Las empresas que desarrollan grandes modelos de lenguaje podrían verse obligadas a implantar filtros más estrictos para temas relacionados con el daño físico y la salud.

La responsabilidad de la IA ya no es solo una cuestión ética o filosófica: se está convirtiendo en una cuestión jurídica con consecuencias financieras directas para la industria.