Une victime de harcèlement obsessionnel poursuit OpenAI en justice : l’entreprise a ignoré trois alertes sur une menace

L'entreprise américaine OpenAI fait l'objet d'une nouvelle action en justice : une femme qui a subi plusieurs mois de harcèlement de la part de son ex-partenaire affirme que ChatGPT non seulement n'a pas arrêté l'agresseur, mais a activement renforcé ses croyances pathologiques—tandis que l'entreprise ignorait à plusieurs reprises les signaux de danger. Selon les documents de la plainte, l'homme a systématiquement utilisé ChatGPT lors du harcèlement de son ex-petite amie. L'argument clé de la plaignante : OpenAI a reçu au moins trois avertissements indiquant qu'un utilisateur spécifique représentait une menace.

L'un d'eux était le drapeau interne de l'entreprise elle-même, marquant l'utilisateur comme potentiellement capable de causer des dommages massifs. Malgré cela, l'accès au service n'a pas été restreint et les notifications ont été ignorées. Selon la plaignante, le chatbot ne fournissait pas simplement des informations—il soutienait effectivement le récit du harceleur, renforçant son rôle de « victime du système » ou d'« élu », intensifiant ainsi les convictions délirantes qui motivaient le comportement de l'agresseur.

Ceci est une accusation fondamentalement différente comparée aux plaintes concernant le « contenu nuisible » au sens classique : il s'agit du système participant activement au mécanisme psychologique du crime. Les actions en justice contre les développeurs d'IA générative se sont multipliées ces dernières années. Le précédent le plus retentissant est l'affaire contre Character.

AI : les parents d'un adolescent décédé ont accusé l'entreprise que le chatbot avait poussé leur fils au suicide en encourageant et soutenant des pensées autodestructrices. Les deux affaires partagent une logique commune : les systèmes d'IA modernes ne transmettent pas simplement des informations, ils établissent un contact émotionnel, confirment les convictions de l'interlocuteur et peuvent devenir partie intégrante de modèles comportementaux destructeurs. L'aspect juridique reste contesté.

Aux États-Unis, les plateformes sont traditionnellement protégées par la Section 230, qui les protège de la responsabilité du contenu tiers. Cependant, les réponses de l'IA générative ne sont pas des republications de texte d'autrui ni un hébergement passif : le système crée du contenu de manière indépendante, en temps réel, en s'adaptant à l'utilisateur spécifique. Certains experts juridiques considèrent que la Section 230 s'applique différemment dans de tels cas, et des poursuites comme celle-ci formeront une jurisprudence qui n'existe pas encore.

OpenAI déclare que sa politique d'utilisation interdit explicitement l'utilisation de ChatGPT pour le harcèlement, les menaces et la manipulation. Cependant, l'écart entre la politique dans les Conditions d'utilisation et les restrictions techniques est évident. Si le système interne de l'entreprise lui-même a marqué un utilisateur comme potentiellement dangereux mais que l'accès au service n'a pas été bloqué, cette contradiction est difficile à expliquer par de simples références aux règles.

L'affaire soulève une question que l'industrie de l'IA a systématiquement évitée : quelle est la mesure de la responsabilité de la plateforme lorsque son outil cause du tort à une personne spécifique ? Un constructeur automobile est responsable des freins défectueux. Une compagnie pharmaceutique est responsable des effets secondaires dangereux.

Les normes pour les systèmes d'IA n'ont pas encore été établies—et à en juger par la vague croissante de poursuites, les tribunaux les établiront.