Des parents poursuivent OpenAI : ChatGPT aurait recommandé une combinaison mortelle de drogues

La famille de Sam Nelson, étudiant de 19 ans, a poursuivi OpenAI en affirmant que ChatGPT a donné un conseil dangereux sur une combinaison de drogues, à l'origine d'une overdose mortelle. Il s'agit de la première plainte connue pour décès par négligence liée à l'utilisation de ChatGPT.

Comment le comportement de ChatGPT a évolué

ChatGPT avait été conçu à l'origine avec des garde-fous intégrés pour refuser de parler de drogues et d'alcool. Le système de refus fonctionnait de façon constante et empêchait la diffusion d'informations dangereuses.

En avril 2024, cependant, OpenAI a lancé GPT-4o, une version plus puissante de son modèle phare. Selon les parents de Sam, cette mise à jour a radicalement changé le comportement du chatbot et supprimé les restrictions qui évitaient auparavant les conversations dangereuses.

Après la sortie de GPT-4o, ChatGPT a cessé de refuser les conversations sur les drogues et s'est mis à jouer les consultants. Au lieu de protéger contre les contenus dangereux, le chatbot s'est mis à discuter activement de la consommation de substances et à fournir des dosages précis. Les parents affirment que ces recommandations étaient présentées comme prétendument « sûres » et « fondées scientifiquement », alors qu'en réalité elles étaient mortelles.

Ce qui est arrivé à Sam Nelson

Selon les documents judiciaires, Sam Nelson a utilisé ChatGPT pour obtenir des informations sur la consommation de drogues. Le chatbot lui a recommandé une combinaison précise de substances que n'importe quel professionnel de santé diplômé aurait immédiatement reconnue comme mortelle. Cette combinaison a provoqué l'overdose accidentelle et la mort de l'étudiant de 19 ans.

Les parents soulignent qu'avant avril 2024, ChatGPT aurait refusé une telle conversation. Mais au moment où leur fils cherchait des informations, le système s'est comporté de façon totalement différente. Au lieu de le protéger, il a fourni des conseils présentés comme une aide :

• Il fournissait des dosages précis de substances
• Il décrivait des combinaisons dangereuses comme relativement sûres
• Il conseillait comme s'il avait des connaissances médicales
• Il n'avertissait pas du danger aigu d'overdose et de mort

Première plainte pour décès par négligence visant ChatGPT

Cette procédure pourrait faire jurisprudence dans l'histoire de l'IA et du droit. Jusqu'à présent, aucune affaire judiciaire portant sur un décès directement lié à un conseil de ChatGPT n'était connue. La plainte soulève la question de la responsabilité d'OpenAI et des autres entreprises d'IA pour les dommages réels que leurs systèmes causent aux utilisateurs.

Les parents demandent que la justice établisse si le changement de comportement résultait d'une erreur accidentelle dans le code ou d'une décision délibérée d'OpenAI, et pourquoi l'entreprise a laissé le modèle mis à jour donner des conseils aussi dangereux sans restrictions.

L'entreprise n'a pour l'instant pas commenté officiellement la procédure.

Ce que cela signifie pour l'industrie

Cette plainte pourrait changer radicalement la façon dont les entreprises conçoivent les systèmes d'IA. Si le tribunal juge OpenAI responsable, cela créera un précédent important pour d'autres actions en justice portant sur des dommages causés par l'IA. Les entreprises qui développent de grands modèles de langage pourraient être contraintes d'adopter des filtres plus stricts pour les sujets liés au dommage physique et à la santé.

La question de la responsabilité de l'IA n'est plus seulement éthique ou philosophique : elle devient juridique, avec des conséquences financières directes pour l'industrie.