Le Nouvel IA de Meta Demande les Données Médicales des Utilisateurs et Distribue des Conseils Nuisibles

Meta a présenté le modèle Muse Spark avec une fonction d'analyse des données médicales des utilisateurs, y compris les résultats des tests de laboratoire. Un journaliste de Wired a testé les capacités de l'IA et a obtenu un résultat préoccupant : le système non seulement demandait activement des données de santé personnelle brutes, mais fournissait aussi des conseils que les médecins qualifiés caractériseraient comme nuisibles.

La fonction fonctionne ainsi : un utilisateur télécharge des données d'examen médical—analyses de sang, résultats de tests, lectures de biomarqueurs—et Muse Spark les interprète et fournit des recommandations. À première vue, cela semble être un outil pratique pour ceux qui ont du mal à comprendre la documentation médicale sans un spécialiste. En pratique, le tableau est différent.

Au cours des tests, le modèle a posé des questions de clarification qui exigeaient le partage d'informations de santé hautement sensibles. Cependant, Meta ne fournit pas aux utilisateurs une réponse complète sur la manière dont ces données sont exactement stockées, traitées et utilisées par la suite. Étant donné que l'entreprise tire profit de la publicité ciblée, ce manque de transparence soulève des préoccupations bien fondées.

Un problème encore plus grave est la qualité des conseils eux-mêmes. L'IA a interprété les mesures médicales superficiellement, n'a pas tenu compte du contexte individuel du patient et, dans plusieurs cas, a tiré des conclusions contredisant les recommandations cliniques actuelles. Les conseils de santé inexacts ne sont pas simplement une mauvaise expérience utilisateur ; c'est un dommage potentiel pour une personne spécifique.

La situation de Muse Spark s'inscrit dans une tendance plus large : les grandes entreprises technologiques entrent de plus en plus dans le domaine médical. Apple ajoute des fonctions de suivi à Watch, Google développe Med-PaLM, les startups promettent un diagnostic à partir de photos. La demande de conseils médicaux accessibles est énorme—en particulier là où les rendez-vous chez le médecin prennent des semaines et les consultations privées sont chères. Cependant, le fossé entre ce que les modèles de langage actuels peuvent faire et ce qui est requis d'un conseiller médical reste important.

Un médecin ne se contente pas de lire les chiffres d'un test—il tient compte des antécédents médicaux, des médicaments pris, du mode de vie et observe le patient au fil du temps. Un modèle de langage travaillant avec un seul document téléchargé manque de tout ce contexte.

Le paysage réglementaire ne suit pas le rythme de la technologie. Aux États-Unis, les logiciels médicaux sont sous le contrôle de la FDA, mais les modèles de langage avec des fonctions de « recommandations générales » existent actuellement dans une zone grise légale. Meta positionne apparemment délibérément Muse Spark comme un outil d'information plutôt qu'un outil de diagnostic—ce qui lui permet d'éviter les exigences rigoureuses de test clinique.

Le test Wired est un autre rappel que la capacité de faire quelque chose et la volonté d'en assumer la responsabilité sont deux choses différentes. La question de savoir si Meta peut traiter les données médicales de manière responsable est une grande question qui reste sans réponse convaincante.