Confessions à l'algorithme : pourquoi ChatGPT est le pire gardien de vos secrets médicaux

Plus de 230 millions de personnes se tournent chaque semaine vers ChatGPT pour obtenir des conseils sur la santé et le bien-être, selon les chiffres cités par OpenAI. L'information est rapportée par le site The Verge. L'entreprise affirme que, pour de nombreux utilisateurs, le chatbot est devenu un "allié" : il les aide à se retrouver dans le dédale des plans d'assurance, à remplir des documents et à défendre plus sûrement leurs intérêts au sein du système de santé. Or, les entreprises technologiques ne sont pas soumises aux mêmes obligations que les établissements médicaux — et c'est précisément dans cet écart que se cache le principal risque.

Pourquoi les utilisateurs font confiance à un chatbot pour leur santé

La médecine moderne ressemble souvent à un labyrinthe bureaucratique complexe, dans lequel le patient se sent comme un simple rouage. Dans ce contexte, un ChatGPT poli, réagissant instantanément et toujours disponible, apparaît comme une planche de salut : il ne presse pas, ne réagit pas avec agacement aux questions répétées et est prêt à discuter des symptômes à toute heure. OpenAI décrit ce rôle comme celui d'un "allié" qui aide à s'orienter dans les échanges avec les compagnies d'assurance, dans la gestion des documents et, plus généralement, à défendre plus sûrement ses intérêts en tant que patient.

Le problème est que cette réactivité est une imitation statistique de haute qualité, et non une attention consciente : le chatbot n'a jamais prêté le serment d'Hippocrate.

Vide juridique : un chatbot n'est pas un établissement médical

Les médecins et les cliniques sont soumis à des protocoles de confidentialité stricts, comme la loi HIPAA aux États-Unis ou le RGPD en Europe. OpenAI et les autres entreprises technologiques fonctionnent selon des conditions d'utilisation que la plupart des gens parcourent en quelques secondes. Lorsqu'un utilisateur envoie dans le chat une image d'IRM ou une liste de médicaments, ces données cessent d'être un simple secret personnel : elles deviennent une composante de l'ensemble de données servant à entraîner les futures versions du modèle.

Les entreprises promettent l'anonymisation, mais l'historique des fuites de données dans le secteur montre que "l'anonymat" en ligne est une notion fragile et temporaire. Les entreprises technologiques ne sont pas soumises aux mêmes obligations que les établissements médicaux.

Le précédent

Google Nightingale et la nature probabiliste de l'IA

Des scénarios similaires se sont déjà produits : dans l'affaire du projet Google Nightingale, les données de millions de patients étaient transmises à une entreprise technologique à l'insu des personnes concernées. La différence, aujourd'hui, c'est que les utilisateurs livrent volontairement leurs informations médicales, séduits par la commodité de l'interface du chatbot. Or, un modèle de langage n'est pas une base de connaissances, mais un générateur des séquences de mots statistiquement les plus probables. Dans des tâches comme l'écriture de code ou d'un essai, une réponse erronée mais "plausible" du modèle peut prêter à sourire ; dans un contexte médical, une hallucination sur le dosage d'un médicament ou l'interprétation d'un rythme cardiaque représente un risque bien plus sérieux.

Anthropomorphisme et absence de responsabilité

Une réponse polie et bien structurée est inconsciemment perçue comme un signe de compétence — c'est l'effet d'anthropomorphisme : les gens ont tendance à faire davantage confiance au bot qu'ils ne le devraient. Mais derrière cette façade, il n'existe pas la responsabilité propre à la médecine : si un médecin commet une erreur, il risque sa licence et un procès. Si un chatbot donne un conseil erroné, l'entreprise peut invoquer une clause des conditions d'utilisation stipulant que le service est destiné "uniquement à des fins informatives".

L'essentiel : les entreprises technologiques ne sont pas des établissements médicaux, et la commodité de discuter avec un chatbot n'équivaut pas à la protection des données médicales personnelles. Utiliser l'IA pour rechercher des informations générales ou organiser des notes est une chose ; transformer un chatbot en gardien de son dossier médical et de ses ordonnances en est une tout autre.

Combien de personnes se tournent chaque semaine vers

ChatGPT pour des conseils sur la santé ?

Plus de 230 millions de personnes par semaine, selon les chiffres cités par OpenAI.

En quoi

ChatGPT diffère-t-il d'un médecin en matière d'obligations envers l'utilisateur ?

Les entreprises technologiques ne sont pas soumises aux mêmes obligations que les établissements médicaux : les protocoles de confidentialité comme HIPAA et le RGPD ne s'appliquent pas à elles de la même manière qu'aux médecins et aux cliniques, et leurs conditions d'utilisation précisent que le service est destiné "uniquement à des fins informatives".

Que deviennent les données médicales que l'utilisateur envoie dans le chat ?

Elles cessent d'être un secret personnel et deviennent une composante de l'ensemble de données servant à entraîner les futures versions du modèle ; les entreprises promettent l'anonymisation, mais l'historique des fuites de données dans le secteur montre qu'il s'agit d'une notion fragile et temporaire.