Procès contre OpenAI : ChatGPT est accusé de la mort d'un utilisateur

La famille d'un homme décédé a intenté une action en justice contre OpenAI, accusant l'entreprise d'avoir causé la mort de leur proche par le biais de ChatGPT. C'est le premier cas de ce type et pourrait changer les règles pour l'ensemble de l'industrie de l'intelligence artificielle.

Selon les documents de la plainte, OpenAI a remis en service une version du modèle GPT-4o que l'entreprise elle-même avait auparavant caractérisée comme "intrinsèquement dangereuse". Les demandeurs insistent sur le fait que cette décision a été prise malgré la connaissance de la direction des risques potentiels pour la santé mentale des utilisateurs.

"Cet horreur a été commise par une entreprise qui a à maintes reprises échoué à assurer la sécurité de ses utilisateurs", indiquent les documents judiciaires. Le langage suggère que les avocats ont l'intention de prouver le caractère systémique des problèmes de sécurité chez OpenAI.

Le contexte de la situation la rend encore plus alarmante. Au cours des derniers mois, OpenAI a été à plusieurs reprises critiquée pour un test insuffisant des mises à jour et la hâte de lancer de nouvelles fonctionnalités. Plusieurs anciens employés ont déclaré publiquement que les intérêts commerciaux de l'entreprise prennent de plus en plus le pas sur les préoccupations de sécurité.

Ce qui s'est exactement passé avec l'utilisateur décédé n'a pas encore été complètement divulgué. Cependant, le simple fait que la plainte fasse référence à une version spécifique du modèle qu'OpenAI avait temporairement désactivée et puis réactivée soulève des questions sérieuses sur les procédures de contrôle de qualité. Pourquoi un modèle jugé dangereux a-t-il été ramené en service? Quels changements y ont été apportés? Étaient-ils suffisants?

Pour l'industrie, cette action en justice pourrait être un tournant. Jusqu'à présent, les développeurs de systèmes d'IA existaient dans un vide juridique relatif — il n'était pas clair qui est responsable lorsqu'un algorithme cause du tort. Si le tribunal donne raison aux demandeurs, cela créera un précédent qui obligera toutes les entreprises technologiques à reconsidérer leurs approches en matière de sécurité.

La question de l'interaction de l'IA avec les groupes d'utilisateurs vulnérables est particulièrement aiguë. ChatGPT et les systèmes similaires sont de plus en plus utilisés comme partenaires de conversation, sources de soutien émotionnel et même quasi-thérapeutes. Cependant, ils n'ont aucune certification médicale et ne sont pas responsables de leurs "conseils".

OpenAI n'a pas encore commenté publiquement la plainte. L'entreprise s'appuie traditionnellement sur des accords d'utilisateurs qui limitent sa responsabilité et des avertissements indiquant que l'IA peut faire des erreurs. Cependant, dans ce cas, les demandeurs soutiennent qu'il ne s'agit pas d'une erreur, mais d'une décision consciente de la direction.

Indépendamment du résultat, l'affaire a déjà attiré l'attention des régulateurs des deux côtés de l'Atlantique. À une époque où les assistants IA font de plus en plus partie de la vie quotidienne de millions de personnes, la question "qui est responsable quand quelque chose tourne mal" cesse d'être théorique.