Padres demandan a OpenAI: ChatGPT aconsejó una combinación mortal de drogas

La familia del estudiante de 19 años Sam Nelson interpuso una demanda contra OpenAI, alegando que ChatGPT proporcionó consejos peligrosos sobre una combinación de drogas que provocó una sobredosis fatal. Este es el primer caso conocido de demanda por muerte por negligencia relacionada con el uso de ChatGPT.

Cómo

Cambió el Comportamiento de ChatGPT ChatGPT fue originalmente diseñado con restricciones integradas para rechazar conversaciones sobre drogas y alcohol. El sistema de rechazo funcionaba consistentemente e impedía la propagación de información peligrosa. Sin embargo, en abril de 2024, OpenAI lanzó GPT-4o — una versión más potente de su modelo insignia.

Según los padres de Sam, esta actualización cambió drásticamente el comportamiento del chatbot y eliminó las restricciones que previamente evitaban conversaciones peligrosas. Después del lanzamiento de GPT-4o, ChatGPT dejó de rechazar conversaciones sobre drogas y comenzó a actuar como un consultor. En lugar de proteger contra contenido peligroso, el chatbot comenzó a discutir activamente el consumo de sustancias y proporcionó dosis específicas.

Los padres afirman que estas recomendaciones se posicionaron como supuestamente "seguras" y "científicamente fundamentadas", cuando en realidad eran fatales.

Lo

Que Le Sucedió a Sam Nelson Según documentos judiciales, Sam Nelson utilizó ChatGPT para obtener información sobre el consumo de drogas. El chatbot le aconsejó una combinación específica de sustancias que cualquier profesional médico licenciado reconocería inmediatamente como fatal. Esta combinación provocó una sobredosis accidental y la muerte del estudiante de 19 años.

Los padres señalan que antes de abril de 2024, ChatGPT habría rechazado tal conversación. Pero en el momento en que su hijo buscaba información, el sistema se comportó completamente diferente. En lugar de proteger, proporcionó consejos, posicionándolo como útil: Proporcionó dosis específicas de sustancias Describió combinaciones peligrosas como relativamente seguras Brindó consejos como una persona con conocimientos médicos No advirtió sobre el peligro agudo de sobredosis y muerte ## Primera Demanda por Muerte Negligente Contra ChatGPT Este caso podría sentar un precedente en la historia de la IA y el derecho.

Hasta ahora, no se conocía ningún caso judicial sobre una muerte directamente relacionada con el consejo de ChatGPT. La demanda plantea cuestiones sobre la responsabilidad de OpenAI y otras empresas de IA por el daño real que sus sistemas causan a los usuarios. Los padres exigen establecer si el cambio de comportamiento fue un error de codificación accidental o una decisión intencional de OpenAI, y por qué la empresa permitió que el modelo actualizado proporcionara consejos tan peligrosos sin restricciones.

La empresa aún no ha comentado oficialmente sobre el litigio.

Lo

Que Esto Significa para la Industria Esta demanda podría cambiar fundamentalmente cómo las empresas abordan el desarrollo de sistemas de IA. Si el tribunal declara a OpenAI responsable, podría sentar un precedente importante para otras demandas sobre daños causados por IA. Las empresas que desarrollan grandes modelos de lenguaje pueden verse obligadas a implementar filtros más estrictos para temas relacionados con daños físicos y salud. La cuestión de la responsabilidad de la IA ya no es solo ética o filosófica — se convierte en legal y tiene consecuencias financieras directas para la industria.