Se confesser à un algorithme : pourquoi ChatGPT est le pire gardien de vos secrets médicaux

Plus de 230 millions de personnes consultent chaque semaine ChatGPT pour obtenir des conseils sur leur santé et leur bien-être, selon les chiffres d'OpenAI rapportés par The Verge. L'entreprise affirme que, pour de nombreux utilisateurs, le chatbot est devenu un « allié » : il les aide à s'y retrouver dans le maquis des contrats d'assurance, à remplir des documents et à défendre leurs intérêts avec plus d'assurance dans le système de santé. Or les entreprises technologiques ne sont pas soumises aux mêmes obligations que les établissements médicaux, et c'est précisément dans cet écart que réside le principal risque.

Pourquoi les utilisateurs confient leur santé à un chatbot

La médecine moderne ressemble souvent à un labyrinthe bureaucratique où le patient se sent de trop. Dans ce contexte, ChatGPT, poli, instantané et toujours disponible, fait figure de bouée de sauvetage : il ne presse pas, ne s'agace pas des questions répétées et accepte de discuter des symptômes à toute heure du jour et de la nuit. OpenAI décrit ce rôle comme celui d'un « allié » qui aide à gérer les échanges avec les assureurs, à remplir les documents et, plus largement, à défendre ses intérêts de patient avec plus d'assurance. Le problème, c'est que cette bienveillance relève d'une imitation statistique soignée, et non d'une attention consciente : le chatbot n'a jamais prêté le serment d'Hippocrate.

Vide juridique : un chatbot n'est pas un établissement médical

Médecins et cliniques sont tenus par des protocoles de confidentialité stricts, comme HIPAA aux États-Unis ou le RGPD en Europe. OpenAI et les autres entreprises technologiques, elles, fonctionnent selon des conditions d'utilisation que la plupart des gens font défiler en une seconde. Lorsqu'un utilisateur charge dans le chat une IRM ou la liste de ses médicaments, ces données cessent d'être un simple secret personnel : elles rejoignent le corpus sur lequel seront entraînées les futures versions des modèles. Les entreprises promettent l'anonymisation, mais l'historique des fuites dans le secteur le montre : sur Internet, l'« anonymat » est une notion fragile et temporaire. Les entreprises technologiques ne sont pas soumises aux mêmes obligations que les établissements médicaux.

Le précédent

Google Nightingale et la nature probabiliste de l'IA

Ce type de scénario s'est déjà produit : avec le projet Google Nightingale, les données de millions de patients ont été transmises à une entreprise technologique à l'insu des personnes concernées. La différence, c'est qu'aujourd'hui les utilisateurs livrent leurs informations médicales de leur plein gré, séduits par la commodité de l'interface du chatbot. Or un modèle de langage n'est pas une base de connaissances, mais un générateur des séquences de mots les plus probables. Pour écrire du code ou une dissertation, une réponse erronée mais « vraisemblable » peut prêter à sourire ; en contexte médical, une hallucination sur la posologie d'un médicament ou l'interprétation d'un rythme cardiaque représente un risque autrement plus sérieux.

Anthropomorphisme et absence de responsabilité

Une réponse polie et structurée est inconsciemment perçue comme un gage de compétence : c'est l'effet d'anthropomorphisme, qui pousse les gens à faire davantage confiance au bot qu'ils ne le devraient. Mais derrière cette façade, aucune responsabilité comparable à celle de la médecine : un médecin qui commet une erreur risque sa licence et des poursuites judiciaires. Si un chatbot donne un mauvais conseil, l'entreprise peut invoquer la clause des conditions d'utilisation selon laquelle le service est destiné « exclusivement à des fins d'information ».

L'essentiel : les entreprises technologiques ne sont pas des établissements médicaux, et la commodité d'un échange avec un chatbot ne garantit pas la protection des données médicales personnelles. Utiliser l'IA pour rechercher des informations générales ou structurer des notes est une chose ; faire d'un chatbot le dépositaire de son historique médical et de ses ordonnances en est une tout autre.

Combien de personnes consultent chaque semaine

ChatGPT pour des conseils de santé ?

Plus de 230 millions de personnes par semaine, selon les chiffres d'OpenAI.

En quoi

ChatGPT diffère-t-il d'un médecin du point de vue des obligations envers l'utilisateur ?

Les entreprises technologiques ne sont pas soumises aux mêmes obligations que les établissements médicaux : les protocoles de confidentialité comme HIPAA et le RGPD ne s'appliquent pas à elles de la même manière qu'aux médecins et aux cliniques, et leurs conditions d'utilisation précisent que le service est destiné « exclusivement à des fins d'information ».

Que deviennent les données médicales qu'un utilisateur charge dans le chat ?

Elles cessent d'être un secret personnel et intègrent le corpus de données servant à entraîner les futures versions du modèle ; les entreprises promettent l'anonymisation, mais l'historique des fuites dans le secteur montre que cette notion est fragile et temporaire.