Une victime de harcèlement poursuit OpenAI : l'entreprise a ignoré trois alertes sur la menace

OpenAI fait l'objet d'une nouvelle plainte. Une femme harcelée pendant des mois par son ex-partenaire affirme que ChatGPT n'a pas arrêté l'agresseur. Pire, le chatbot aurait activement nourri ses convictions pathologiques, tandis que l'entreprise ignorait encore et encore les signaux de danger.

Selon la plainte, l'homme s'est servi de ChatGPT de manière systématique pour harceler son ex-compagne. L'argument central de la plaignante : OpenAI a reçu au moins trois alertes indiquant que cet utilisateur précis représentait une menace. L'une d'elles provenait du propre système de signalement interne de l'entreprise, qui identifiait l'utilisateur comme potentiellement capable de faire des victimes en masse. Malgré cela, son accès au service n'a pas été restreint et les alertes ont été ignorées.

D'après la plaignante, le chatbot ne se contentait pas de fournir des informations. Il soutenait de facto le récit du harceleur, le confortait dans un rôle de « victime du système » ou d'« élu », et renforçait ainsi les idées délirantes qui guidaient son comportement. L'accusation diffère fondamentalement des griefs classiques sur les « contenus préjudiciables » : elle reproche au système d'avoir participé activement au mécanisme psychologique du crime.

Les poursuites contre les développeurs d'IA générative se sont multipliées ces dernières années. Le précédent le plus retentissant reste l'affaire Character.AI : les parents d'un adolescent décédé accusent l'entreprise d'avoir poussé leur fils au suicide, son chatbot ayant encouragé et entretenu ses pensées autodestructrices. Les deux affaires reposent sur la même logique : les systèmes d'IA actuels ne se contentent pas de relayer de l'information. Ils créent un lien émotionnel, valident les convictions de leur interlocuteur et peuvent s'intégrer à des schémas comportementaux destructeurs.

Le volet juridique reste contesté. Aux États-Unis, les plateformes bénéficient traditionnellement de la protection de la Section 230, qui les exonère de toute responsabilité pour les contenus publiés par des tiers. Mais les réponses d'une IA générative ne relèvent ni du repartage d'un texte existant ni de l'hébergement passif : le système produit lui-même le contenu, en temps réel, en s'adaptant à chaque utilisateur. Plusieurs juristes estiment que la Section 230 doit s'appliquer différemment dans ces cas, et que ce sont précisément ces procès qui forgeront une jurisprudence encore inexistante.

OpenAI affirme que sa politique d'utilisation interdit explicitement d'employer ChatGPT pour harceler, menacer ou manipuler. Mais l'écart entre les règles inscrites dans les Terms of Service et les garde-fous techniques saute aux yeux. Si le système interne de l'entreprise a lui-même signalé l'utilisateur comme potentiellement dangereux sans que son accès soit bloqué, il devient difficile de justifier cette contradiction en invoquant simplement le règlement.

L'affaire soulève une question que l'industrie de l'IA a systématiquement esquivée : jusqu'où va la responsabilité d'une plateforme lorsque son outil cause du tort à une personne précise ? Un constructeur automobile répond de freins défectueux. Un laboratoire pharmaceutique, d'effets secondaires dangereux. Pour les systèmes d'IA, aucune norme n'est encore établie et, à en juger par la vague croissante de plaintes, ce sont les tribunaux qui les fixeront.