Procès contre OpenAI : ChatGPT accusé d'être à l'origine de la mort d'un utilisateur

La famille d'un homme décédé a porté plainte contre OpenAI, accusant l'entreprise d'avoir fait de ChatGPT la cause de la mort de leur proche. Il s'agit d'une première, qui pourrait changer les règles du jeu pour l'ensemble du secteur de l'intelligence artificielle.

Selon la plainte, OpenAI a remis en service une version du modèle GPT-4o que l'entreprise avait elle-même décrite comme « intrinsèquement dangereuse ». Les plaignants soutiennent que cette décision a été prise alors que la direction avait connaissance des risques potentiels pour la santé mentale des utilisateurs.

« Cette horreur a été commise par une entreprise qui a échoué, encore et encore, à garantir la sécurité de ses utilisateurs », peut-on lire dans les documents judiciaires. Cette formulation montre que les avocats entendent démontrer le caractère systémique des problèmes de sécurité chez OpenAI.

Le contexte rend la situation encore plus préoccupante. Ces derniers mois, OpenAI a essuyé à plusieurs reprises des critiques pour des tests insuffisants de ses mises à jour et une précipitation dans le lancement de nouvelles fonctionnalités. Plusieurs anciens salariés ont affirmé publiquement que les intérêts commerciaux prenaient de plus en plus le pas sur les considérations de sécurité au sein de l'entreprise.

Les circonstances exactes du décès n'ont pas encore été entièrement rendues publiques. Mais le simple fait que la plainte vise une version précise du modèle, qu'OpenAI avait temporairement désactivée avant de la rétablir, soulève de sérieuses questions sur ses procédures de contrôle qualité. Pourquoi un modèle jugé dangereux a-t-il été remis en service ? Quelles modifications y ont été apportées ? Étaient-elles suffisantes ?

Pour le secteur, cette plainte pourrait constituer une ligne de partage. Jusqu'ici, les développeurs de systèmes d'IA évoluaient dans un relatif vide juridique : on ignorait qui était responsable lorsqu'un algorithme causait un préjudice. Si le tribunal donne raison aux plaignants, cela créera un précédent qui obligera toutes les entreprises technologiques à revoir leur approche de la sécurité.

La question des interactions entre l'IA et les utilisateurs vulnérables apparaît particulièrement aiguë. ChatGPT et les systèmes similaires servent de plus en plus d'interlocuteurs, de sources de soutien émotionnel, voire de quasi-thérapeutes. Pourtant, ils ne disposent d'aucune certification médicale et n'assument aucune responsabilité pour leurs « conseils ».

OpenAI n'a pas encore commenté publiquement la plainte. L'entreprise invoque habituellement ses conditions d'utilisation, qui limitent sa responsabilité, ainsi que ses avertissements indiquant que l'IA peut se tromper. Mais dans ce cas précis, les plaignants affirment qu'il ne s'agit pas d'une erreur, mais d'une décision délibérée de la direction.

Quelle que soit l'issue du procès, l'affaire a déjà attiré l'attention des régulateurs des deux côtés de l'Atlantique. À l'heure où les assistants IA s'installent dans le quotidien de millions de personnes, la question « qui est responsable quand quelque chose tourne mal ? » cesse d'être théorique.