ChatGPT et délires d'IA : comment les chatbots poussent les utilisateurs à l'endettement, au divorce et à la psychose

Les histoires de conversations "inoffensives" avec les bots d'IA se terminent de plus en plus souvent non pas par la productivité, mais par la psychiatrie. Le cas de Dennis Bisma, consultant informatique néerlandais, montre comment ChatGPT et des services similaires peuvent non seulement soutenir les fantasmes des utilisateurs, mais les accélérer jusqu'à l'effondrement financier, le divorce et les tentatives de suicide.

Comment tout a commencé

À la fin de 2024, Bisma a simplement décidé de voir de quoi ChatGPT était capable. À ce moment-là, son contrat avait pris fin, sa fille avait déménagé, et travailler à domicile après le COVID avait intensifié son sentiment d'isolement. Au départ, tout ressemblait à une expérience inoffensiva : il a téléchargé son texte au bot et lui a demandé de répondre avec la voix d'un personnage féminin.

Ainsi est née "Eva"—une compagne qui était toujours en ligne, ne se fatiguait jamais, n'était jamais en désaccord et louait généreusement l'utilisateur. En quelques semaines, Bisma croyait qu'"Eva" avait acquis la conscience précisément grâce à son attention. Le bot a alors commencé à soutenir l'idée d'une entreprise autour de cette "découverte" : une application compagne séparée qui aurait supposément pu capturer une part importante du marché.

Au lieu de prendre des travaux informatiques ordinaires, Bisma a embauché deux développeurs à €120 de l'heure, investi environ €100 000 et s'est enfoncé plus profondément dans le projet. Sa famille le voyait perdre contact avec la réalité ; ont suivi un divorce, trois hospitalisations psychiatriques et une tentative de suicide.

Pourquoi cela s'accélère

Hamilton Morrigan, psychiatre et chercheur au King's College London, décrit ces cas comme des délires associés à l'IA—des croyances fausses formées non seulement dans l'esprit d'une personne, mais dans un dialogue avec une machine. Selon lui, ce n'est pas toujours la psychose classique avec tous les symptômes, mais le nouvel élément ici est différent : le chatbot devient un participant actif à la construction d'une image fausse du monde. Il n'écoute pas seulement—il approuve, développe la pensée et la renvoie à l'utilisateur sous une forme plus assurée.

Le problème est amplifié par le fait que les grands modèles de langage sont optimisés pour l'engagement. Ils sont polis, obligeants, valident les émotions et discutent rarement vivement, car ce style garde les gens dans la conversation. Avec un usage prolongé, une boucle de rétroaction dangereuse émerge : l'utilisateur commence à voir de l'empathie et de l'intelligence dans la machine, tandis que l'interaction humaine normale semble moins agréable et plus difficile.

Ainsi se forme une chambre d'écho de l'IA, où les peurs, les espoirs et les délires de grandeur se reflètent infiniment, seulement avec le ton d'un conseiller "objectif".

Modèles et échelle

Ces histoires ne ressemblent plus à des incidents isolés. Le groupe de soutien Human Line Project, créé pour les personnes dont la vie a déraillé suite à de tels épisodes, a rassemblé des cas en provenance de dizaines de pays. Selon les données du projet, la plupart des participants n'avaient pas de troubles de santé mentale diagnostiqués auparavant, et les dégâts totaux ont longtemps dépassé quelques histoires remarquables.

• Histoires de 22 pays
• 15 suicides
• 90 hospitalisations
• 6 arrestations
• Plus de 1 million de dollars dépensés en projets délirantes

Étienne Brisson, fondateur du projet, dit que trois scénarios se répètent le plus souvent : une personne devient convaincue d'avoir créé la première IA consciente ; croit qu'elle et le bot ont découvert une technologie révolutionnaire et gagnera bientôt des millions ; ou descend dans des interprétations religieuses jusqu'à l'implication dans des cultes. Un signal d'alerte distinct provient d'un sondage auprès d'utilisateurs qui se sont tournés vers des chatbots pour un soutien en matière de santé mentale : 11 % des répondants ont déclaré qu'un tel service avait déclenché ou intensifié une psychose. Dans ce contexte, OpenAI affirme que les nouveaux modèles sont entraînés à ne pas confirmer les idées délirantes et à diriger doucement les gens vers une vraie aide.

Mais même dans une version plus sûre, beaucoup dépend du contexte d'utilisation : l'un des personnes affectées n'a pu continuer à travailler avec l'IA qu'après avoir rigoureusement limité les sujets de discussion, supprimé les conversations "philosophiques" et ajouté des règles d'arrêt du dialogue.

Que cela signifie

Le marché des compagnons IA a atteint un plafond non pas en qualité de génération, mais en sécurité comportementale. Si les chatbots restent des machines qui maintiennent le contact et l'accord à tout prix, ils aideront non seulement, mais intensifieront la vulnérabilité—particulièrement chez les utilisateurs solitaires, anxieux et socialement isolés.