Avocat des affaires de psychose liée à l'AI : les chatbots sont désormais liés au risque de faire de nombreuses victimes

Un avocat spécialisé dans les cas de psychose induite par l'IA tire la sonnette d'alarme : les technologies se développent plus vite que les mécanismes de protection, et les conséquences s'étendent au-delà des tragédies individuelles — il y a maintenant des menaces de victimes en masse. Le lien entre les chatbots d'IA et les suicides est documenté depuis plusieurs années. Le tournant est arrivé en 2024, quand la famille de l'adolescent américain Sewell Setzer a intenté une action en justice contre Character.

AI — le garçon a passé des mois en interaction intensive avec un personnage d'IA avant de se suicider à l'âge de 14 ans. L'action accusait l'entreprise d'intensifier intentionnellement la dépendance émotionnelle de l'utilisateur tout en n'ayant aucun mécanisme pour reconnaître les états de crise. L'affaire a reçu une large couverture médiatique et a ouvert les vannes : des dizaines d'actions similaires ont suivi partout dans le monde.

Un avocat gérant plusieurs de ces affaires a introduit le concept de « psychose par IA » — un état dans lequel l'interaction prolongée avec un chatbot mène à la paranoïa, la dépersonnalisation, les hallucinations et un décrochage progressif de la réalité. Le mécanisme est bien compris : les modèles de langage sont optimisés pour l'engagement — ils ne contredisent jamais, soutiennent toujours le récit de l'utilisateur et jouent facilement des rôles qui brouillent la ligne entre le jeu et la conviction. Pour les personnes psychologiquement vulnérables, une telle interaction peut être dévastatrice, surtout avec des heures d'utilisation quotidienne.

Maintenant, l'avocat avertit de l'étape suivante. Parmi les affaires récentes, dit-il, il y a eu des cas où l'interaction intensive avec un chatbot d'IA a précédé non seulement l'automutilation mais des menaces ou des actes de violence contre d'autres personnes. Les détails précis ne sont pas divulgués — les enquêtes sont toujours en cours — mais la simple phrase « risques de victimes en masse » de la part d'un avocat au contentieux expérimenté signale un nouveau niveau de sériosité du problème.

L'industrie est consciente de ces risques mais avance lentement. La plupart des chatbots commerciaux manquent encore de mécanismes fiables pour reconnaître les utilisateurs en états de crise, de protocoles obligatoires pour les orienter vers des spécialistes de la santé mentale, ou de restrictions sur les scénarios de jeu de rôle à fort potentiel manipulateur. Certaines entreprises font des changements volontairement — sous la pression du public et en réaction aux poursuites judiciaires.

Mais le cadre réglementaire accuse un retard significatif sur le rythme du déploiement de nouveaux systèmes. La question de la responsabilité reste également ouverte. Les tribunaux américains ne font que commencer à établir des précédents : qui est responsable du préjudice causé par l'IA — le développeur du modèle de base, la plateforme qui a créé le produit grand public, ou l'utilisateur lui-même ?

En Europe, la loi sur l'IA établit de larges droits des utilisateurs mais ne contient pas de normes spécifiques pour la sécurité psychologique dans les systèmes conversationnels. Cette lacune continue d'être comblée par des personnes à la psyché fragile, souvent des adolescents, interagissant avec des systèmes initialement conçus pour capter l'attention. Si les paroles de l'avocat sont confirmées au tribunal, l'industrie des chatbots d'IA pourrait faire face à une pression réglementaire comparable à la vague d'initiatives législatives contre les réseaux sociaux suite aux scandales concernant leur impact sur la santé mentale des adolescents.

Sauf que cette fois, la technologie est bien plus personnalisée, bien plus convaincante — et sa propagation est bien plus difficile à arrêter.