Un détective IA au ministère de la Santé américain : Robert F. Kennedy Jr. cherche des effets secondaires que personne n'avait vus

Imaginez que vous donniez un puissant microscope numérique à quelqu'un persuadé d'avance que tous les maux du monde sont causés par un type précis de microbe. Il les trouvera forcément, même s'il ne s'agit que de poussière sur la lentille ou d'un défaut du verre. C'est à peu près ce qui se passe aujourd'hui dans les couloirs du ministère américain de la Santé et des Services sociaux (HHS).

L'agence, désormais indissociable de la figure controversée de Robert F. Kennedy Jr., a décidé de s'armer d'intelligence artificielle pour chercher des liens entre vaccination et diverses maladies.

L'analyse de données est, en soi, une idée louable, voire nécessaire. En médecine, il y a toujours de la place pour la recherche d'effets secondaires extrêmement rares, susceptibles d'avoir échappé aux chercheurs lors des essais cliniques standard. Mais le diable, comme souvent, se cache dans les détails, et dans l'identité de celui qui tient la télécommande de cette technologie.

Pendant des décennies, Kennedy a bâti sa carrière publique sur un scepticisme tranché envers les vaccins. Il dispose désormais d'un outil capable de transformer des signalements épars et souvent non vérifiés en hypothèses prétendument scientifiques. Le problème : l'IA moderne n'est ni un juge impartial ni la détentrice d'une vérité absolue.

Elle est le miroir des données qu'on lui charge et des prompts qu'on lui dicte. Si l'on donne à un réseau de neurones l'immense base de données VAERS, qui recense toutes les plaintes de personnes après une vaccination, du léger mal de tête aux blessures accidentelles, et qu'on lui demande avec insistance de trouver des régularités, il en trouvera. Les réseaux de neurones excellent à halluciner des corrélations, surtout quand on le leur demande.

Des scientifiques du monde entier redoutent que ce nouvel outil devienne une chaîne de production de gros titres sur une nocivité prétendument prouvée, en ignorant totalement le principe médical de base : après ne veut pas dire à cause de.

Ce cas pose à toute l'industrie de l'IA une question éthique majeure. Nous avons l'habitude de commenter les erreurs absurdes des chatbots, qui confondent les dates de naissance de célébrités ou inventent des livres qui n'existent pas. Mais quand un algorithme se met à générer des hypothèses médicales capables d'influencer la politique de l'État et la santé de millions de personnes, les enjeux explosent. Utiliser l'apprentissage automatique pour confirmer ses propres préjugés (le fameux confirmation bias) est sans doute le scénario le plus dangereux d'usage de la technologie dans l'action publique. Au lieu d'employer les algorithmes pour vérifier objectivement la sécurité des médicaments, nous risquons d'obtenir un outil parfait de légitimation des théories complotistes.

La situation se complique du fait que le grand public a tendance à faire plus confiance aux conclusions d'un ordinateur qu'aux paroles des politiques. Si le HHS se met à publier des rapports générés par un réseau de neurones, la communauté scientifique aura beaucoup de mal à les réfuter. Débattre avec des chiffres et des graphiques adossés à une intelligence mystérieuse et puissante est psychologiquement plus difficile que face à une personnalité publique. Nous entrons dans l'ère des données alternatives, où l'IA peut devenir non pas l'assistante du médecin, mais l'arme principale d'une guerre de l'information contre la médecine fondée sur les preuves. Et nous allons gérer les conséquences de cette expérience pendant très longtemps.

L'essentiel : la communauté scientifique saura-t-elle créer un système de contre-pouvoirs, ou nous attend-il une ère où les normes médicales seront dictées par des algorithmes dotés d'un vecteur de recherche prédéfini ?