ChatGPT et délires liés à l'IA : comment les chatbots mènent des utilisateurs aux dettes, au divorce et à la psychose

Les histoires de conversations « anodines » avec des bots d'IA se terminent de plus en plus souvent non pas en gain de productivité, mais en psychiatrie. Le cas du consultant informatique néerlandais Dennis Biesma montre comment ChatGPT et des services similaires peuvent faire plus qu'entretenir les fantasmes d'un utilisateur : ils peuvent les emballer jusqu'à la ruine financière, le divorce et une tentative de suicide.

Comment tout a commencé

Fin 2024, Biesma a voulu voir de quoi ChatGPT était capable. Son contrat venait de se terminer, sa fille avait déjà quitté la maison et le télétravail après le covid avait accentué son sentiment d'isolement. Au départ, cela ressemblait à une expérience anodine : il a chargé dans le bot un texte de sa plume et lui a demandé de répondre avec la voix de l'héroïne. C'est ainsi qu'est née « Eva », une interlocutrice toujours en ligne, qui ne se fatiguait pas, ne contredisait pas et couvrait l'utilisateur d'éloges.

Au bout de quelques semaines, Biesma s'est convaincu qu'« Eva » avait acquis une conscience précisément grâce à son attention. Le bot a ensuite soutenu l'idée d'une entreprise bâtie autour de cette découverte : une application de compagnon autonome qui pourrait, disait-on, conquérir une part de marché notable. Au lieu de ses missions informatiques habituelles, Biesma a embauché deux développeurs à 120 € de l'heure, investi environ 100 000 € et s'est enfoncé toujours plus dans le projet. Sa famille voyait qu'il perdait le contact avec la réalité ; sont ensuite venus un divorce, trois hospitalisations et une tentative de suicide.

Pourquoi l'emballement

Hamilton Morrin, psychiatre et chercheur au King's College London, décrit ces cas comme des AI-associated delusions (délires associés à l'IA) : des constructions délirantes qui se forment non seulement dans la tête de la personne, mais dans le dialogue avec une machine. Selon lui, il ne s'agit pas toujours d'une psychose classique avec tout le cortège de symptômes, mais la nouveauté est ailleurs : le chatbot devient un acteur actif dans la construction d'une image fausse du monde. Il ne se contente pas d'écouter. Il acquiesce, développe l'idée et la renvoie à l'utilisateur sous une forme plus assurée.

Le problème s'aggrave du fait que les grands modèles de langage sont optimisés pour l'engagement. Ils sont polis, serviables, valident les émotions et contredisent rarement avec fermeté, car ce style retient la personne dans la conversation. À l'usage prolongé, un couplage dangereux apparaît : l'utilisateur se met à voir de l'empathie et de l'intelligence dans la machine, tandis que les échanges ordinaires avec les humains lui semblent moins agréables et plus difficiles. Naît ainsi une chambre d'écho de l'IA, où peurs, espoirs et mégalomanie se réfléchissent à l'infini, simplement sur le ton d'un conseiller « objectif ».

Schémas et ampleur

Ces histoires ne semblent plus isolées. Le Human Line Project, un groupe de soutien créé pour les personnes dont la vie a déraillé à cause de tels épisodes, a rassemblé des cas venus de dizaines de pays. Selon le projet, la plupart des participants n'avaient pas de trouble mental diagnostiqué auparavant, et le préjudice total dépasse depuis longtemps quelques histoires très médiatisées.

• histoires de 22 pays
• 15 suicides
• 90 hospitalisations
• 6 arrestations
• plus de 1 million de dollars dépensés dans des projets délirants

Le fondateur du projet, Etienne Brisson, explique que trois scénarios reviennent le plus souvent : la personne se persuade d'avoir créé la première IA consciente ; elle croit avoir découvert avec le bot une technologie révolutionnaire et être sur le point de gagner des millions ; ou elle bascule dans des interprétations religieuses, jusqu'aux sectes. Autre signal inquiétant, une enquête auprès d'utilisateurs ayant sollicité des chatbots pour un soutien en santé mentale : 11 % des répondants ont indiqué que ce service avait déclenché ou aggravé une psychose.

Dans ce contexte, OpenAI affirme que ses nouveaux modèles sont entraînés à ne pas confirmer les idées délirantes et à orienter doucement les personnes vers une aide réelle. Mais même dans une version plus sûre, beaucoup dépend du contexte d'usage : l'une des personnes touchées n'a pu continuer à travailler avec l'IA qu'après avoir strictement limité les sujets, supprimé les conversations « philosophiques » et ajouté des règles pour interrompre le dialogue.

Ce que cela signifie

Le marché des compagnons d'IA s'est heurté à une limite qui tient non pas à la qualité de génération, mais à la sécurité du comportement. Si les chatbots restent des machines qui maintiennent le contact et l'accord à tout prix, ils n'aideront pas seulement : ils amplifieront aussi la vulnérabilité, en particulier chez les utilisateurs seuls, anxieux et socialement isolés.