La nouvelle IA de Meta réclame des données médicales aux utilisateurs et distribue des conseils nocifs

Meta a présenté Muse Spark, un modèle doté d'une fonction d'analyse des données médicales des utilisateurs, y compris les résultats d'examens de laboratoire. Un journaliste de Wired a testé l'IA et obtenu un résultat alarmant : le système ne se contentait pas de réclamer activement des données personnelles de santé brutes, il donnait aussi des conseils que des médecins qualifiés jugeraient nocifs. La fonction marche ainsi : l'utilisateur charge des données d'examens médicaux — prises de sang, résultats de tests, valeurs de biomarqueurs — et Muse Spark se charge de les interpréter et de formuler des recommandations.

À première vue, l'outil semble pratique pour ceux qui peinent à comprendre un dossier médical sans spécialiste. En pratique, le tableau est différent. Pendant le test, le modèle a posé des questions complémentaires qui supposaient la transmission d'informations de santé très sensibles.

Parallèlement, Meta ne donne pas aux utilisateurs de réponse exhaustive sur la manière dont ces données sont stockées, traitées et utilisées ensuite. Comme l'entreprise gagne de l'argent grâce à la publicité ciblée, cette opacité suscite des inquiétudes tout à fait légitimes. Plus grave encore : la qualité des conseils eux-mêmes.

L'IA a interprété les indicateurs médicaux de façon superficielle, n'a pas tenu compte du contexte individuel du patient et, dans plusieurs cas, a tiré des conclusions contraires aux recommandations cliniques actuelles. Un conseil de santé inexact n'est pas qu'une mauvaise expérience utilisateur : c'est un préjudice potentiel pour une personne bien réelle. Le cas Muse Spark s'inscrit dans une tendance plus large : les grandes entreprises technologiques s'aventurent de plus en plus sur le terrain de la médecine.

Apple ajoute des fonctions de suivi à la Watch, Google développe Med-PaLM, des startups promettent un diagnostic à partir d'une photo. La demande de consultations médicales accessibles est énorme, surtout là où obtenir un rendez-vous prend des semaines et où une consultation privée coûte cher. Pourtant, l'écart entre ce que savent faire les modèles de langage actuels et ce qu'on attend d'un conseiller médical reste considérable.

Un médecin ne se contente pas de lire les chiffres d'une analyse : il prend en compte les antécédents, les médicaments pris, le mode de vie, et suit le patient dans la durée. Un modèle de langage qui travaille sur un seul document chargé est privé de tout ce contexte. La réglementation n'arrive pas à suivre la technologie.

Aux États-Unis, les logiciels médicaux relèvent de la FDA, mais les modèles de langage proposant des « recommandations générales » se trouvent pour l'instant dans une zone grise juridique. Meta, selon toute apparence, présente délibérément Muse Spark comme un outil d'information et non de diagnostic, ce qui lui permet d'éviter des exigences strictes de tests cliniques. Le test de Wired rappelle une fois de plus que pouvoir faire quelque chose et être prêt à en assumer la responsabilité sont deux choses différentes.

Meta sait-elle manipuler les données médicales de façon responsable ? La question reste entière, et sans réponse convaincante pour l'instant.

*Meta a été reconnue organisation extrémiste et est interdite en Russie.