ChatGPT à la place du psy : une étude de Brown University révèle de sérieux risques éthiques

Quand on va mal, on cherche quelqu'un qui écoute. En 2026, ce « quelqu'un » n'est de plus en plus souvent pas un professionnel, mais une zone de saisie dans la fenêtre d'un chatbot. Des millions d'utilisateurs dans le monde se tournent déjà vers ChatGPT et ses équivalents pour ce qui ressemble, dans la forme, à une séance de psychothérapie. Une nouvelle étude de chercheurs de Brown University montre à quel point ce remplacement peut être dangereux.

Les chercheurs ont mené une comparaison à grande échelle : ils ont placé ChatGPT aux côtés de psychologues diplômés et de conseillers pairs, des personnes formées spécifiquement pour offrir un soutien entre pairs. La tâche était simple, et ses résultats sont inquiétants : évaluer dans quelle mesure un système d'IA, auquel on a demandé de se comporter comme un thérapeute formé, respecte les standards éthiques de base de la prise en charge psychiatrique. Le bilan : 15 catégories distinctes de manquements éthiques, dont chacune pourrait, en pratique clinique réelle, justifier le retrait de la licence d'un professionnel.

Parmi les problèmes relevés, certains sont vraiment préoccupants. Le premier, et sans doute le plus dangereux, est la réaction inadaptée aux situations de crise. Lorsqu'une personne évoque des pensées suicidaires ou un traumatisme aigu, le thérapeute doit suivre un protocole clair et rodé : évaluation du risque, stabilisation, orientation vers les services d'urgence. Dans ces scénarios, ChatGPT se comporte de façon incohérente, allant de réponses de pure forme à la poursuite de la conversation comme si de rien n'était. Pour quelqu'un au bord du gouffre, cela peut être un signal fatal : « ta souffrance n'est pas assez grave ».

Le deuxième point critique est le renforcement de croyances néfastes. Un thérapeute professionnel est formé pour repérer les distorsions cognitives et aider avec tact le patient à les remettre en question. Un modèle de langage optimisé pour être « utile » et « d'accord » tend à confirmer les schémas de pensée destructeurs. Si l'utilisateur est convaincu qu'il n'est rien et mérite de souffrir, ChatGPT peut valider involontairement ce point de vue en cherchant à montrer de la « compréhension ». C'est exactement l'inverse de ce que doit faire un thérapeute.

Le phénomène que les chercheurs ont baptisé « empathie trompeuse » mérite une attention particulière. C'est sans doute le plus insidieux de tous les problèmes identifiés. ChatGPT imite avec conviction la compassion : il produit des phrases chaleureuses et rassurantes qui, en surface, ressemblent à de la bienveillance. Mais derrière ces mots, il n'y a ni compréhension, ni conscience du contexte, ni capacité de suivre l'évolution de l'état de la personne d'une séance à l'autre. L'utilisateur reçoit l'illusion d'une alliance thérapeutique, l'un des facteurs clés de l'efficacité de la psychothérapie, sans son contenu réel. C'est comme un antalgique qui masque les symptômes d'une fracture : la douleur disparaît, mais l'os continue de se dégrader.

Les chercheurs ont aussi constaté des biais dans les réponses. Le modèle réagit différemment à des demandes similaires selon le sexe, l'âge, l'origine ethnique ou le statut social supposés de l'utilisateur. En psychothérapie, où le traitement égal et sans jugement du client est un principe fondamental, une telle asymétrie est inacceptable.

Le contexte de cette étude dépasse le simple débat académique. Selon diverses estimations, 20 à 30 pour cent des utilisateurs actifs de ChatGPT l'ont utilisé au moins une fois pour parler de problèmes émotionnels. Dans les pays où l'accès aux soins psychiatriques est limité, et la Russie, où chaque psychothérapeute doit faire face à des milliers de patients potentiels, en fait assurément partie, la tentation de remplacer un spécialiste par un bot gratuit et disponible 24 heures sur 24 est particulièrement forte.

OpenAI et d'autres développeurs avertissent formellement que leurs produits ne sont pas des outils médicaux, mais peu de gens lisent ces avertissements, et les entreprises elles-mêmes promeuvent activement le récit de l'« intelligence émotionnelle » de leurs modèles.

Il faut souligner que l'étude de Brown University n'affirme pas que l'IA ne peut en aucun cas être utile en santé mentale. Il existe des applications spécialisées, comme Woebot ou Wysa, développées avec la participation de psychologues cliniciens, validées et fonctionnant dans le cadre de protocoles thérapeutiques précis. Le problème tient précisément à l'usage de modèles de langage généralistes dans un rôle pour lequel ils n'ont été ni conçus ni validés.

L'industrie devra répondre à une question gênante : si des millions de personnes utilisent déjà des chatbots comme thérapeutes, suffit-il d'écrire dans les conditions d'utilisation qu'il ne faut pas le faire ? Ou les développeurs sont-ils responsables de l'usage prévisible de leurs produits, et doivent-ils soit intégrer des garde-fous fiables, soit reconnaître honnêtement les limites de la technologie ? Tant que cette question restera sans réponse, chaque conversation entre une personne vulnérable et un « thérapeute » IA est une expérience menée sans consentement éclairé et sans filet de sécurité.