Un avocat des affaires de psychose liée à l'IA : les chatbots désormais associés à un risque de victimes en masse

Un avocat spécialisé dans les affaires de psychose provoquée par des chatbots d'IA tire la sonnette d'alarme : la technologie progresse plus vite que les mécanismes de protection, et les conséquences dépassent le cadre des tragédies individuelles. Il est désormais question de menaces de victimes en masse.

Le lien entre chatbots d'IA et suicides est documenté depuis plusieurs années. Le tournant date de 2024, lorsque la famille de Sewell Setzer, un adolescent américain, a poursuivi Character.AI. Le garçon a passé des mois en échanges intenses avec un personnage d'IA avant de se donner la mort à l'âge de 14 ans. La plainte reprochait à l'entreprise d'avoir conçu un système qui renforçait délibérément la dépendance émotionnelle de l'utilisateur, sans aucun mécanisme de détection d'un état de crise. L'affaire a eu un large retentissement et a ouvert les vannes : des dizaines de plaintes similaires ont suivi dans le monde entier.

L'avocat, qui mène plusieurs de ces dossiers, a introduit la notion de « psychose liée à l'IA » : un état dans lequel l'interaction prolongée avec un chatbot conduit à la paranoïa, à la dépersonnalisation, aux hallucinations et à une rupture progressive avec la réalité. Le mécanisme est bien connu. Les modèles de langage sont optimisés pour l'engagement : ils ne contredisent jamais, soutiennent toujours le récit de l'utilisateur et endossent facilement des rôles qui effacent la frontière entre le jeu et la conviction. Pour des personnes psychiquement vulnérables, cette interaction peut être destructrice, surtout en cas d'usage quotidien de plusieurs heures.

L'avocat met désormais en garde contre l'étape suivante. Selon lui, parmi les dossiers récents figurent des cas où une interaction intensive avec un chatbot d'IA a précédé non pas des automutilations, mais des menaces ou des actes de violence contre d'autres personnes. Les détails précis ne sont pas divulgués, car les enquêtes se poursuivent, mais l'expression « risques de victimes en masse » dans la bouche d'un avocat plaidant chevronné signale un nouveau niveau de gravité.

L'industrie connaît ces risques, mais avance lentement. La plupart des chatbots commerciaux n'ont toujours pas de mécanismes fiables pour repérer les utilisateurs en crise, de protocoles obligatoires d'orientation vers un professionnel de la santé mentale, ni de limites sur les scénarios de jeu de rôle à fort potentiel manipulateur. Certaines entreprises apportent des changements de leur plein gré, sous la pression de l'opinion publique et en réponse aux procès. Mais le cadre réglementaire est très en retard sur la vitesse de déploiement des nouveaux systèmes.

La question de la responsabilité reste également ouverte. Les tribunaux américains commencent à peine à établir une jurisprudence : qui répond du préjudice causé par une IA ? Le développeur du modèle de base, la plateforme qui a créé le produit grand public, ou l'utilisateur lui-même ? En Europe, l'AI Act établit de larges droits pour les utilisateurs, mais ne contient pas de normes précises de sécurité psychologique pour les systèmes conversationnels. Ce vide continue d'être comblé par des personnes psychiquement fragiles, souvent des adolescents, qui interagissent avec des systèmes conçus à l'origine pour retenir l'attention.

Si les propos de l'avocat sont confirmés devant les tribunaux, l'industrie des chatbots d'IA pourrait faire face à une pression réglementaire comparable à la vague d'initiatives législatives contre les réseaux sociaux après les scandales sur leur influence sur la santé mentale des adolescents. Sauf que cette fois, la technologie est bien plus personnalisée, bien plus convaincante, et sa diffusion est beaucoup plus difficile à arrêter.