Détective IA au ministère de la Santé américain: Robert Kennedy Jr cherche les effets secondaires où on ne les a pas vus

Imaginez que vous donnez le microscope numérique le plus puissant à une personne qui est déjà convaincue que des microbes d'un type très spécifique sont responsables de tous les maux du monde. Il les trouvera certainement, même s'il ne s'agit que de poussière sur la lentille ou d'un défaut du verre. C'est à peu près ce qui se passe maintenant dans les couloirs du Département de la santé et des services sociaux des États-Unis (HHS).

Le département, désormais inextricablement associé à la figure controversée de Robert F. Kennedy Jr., a décidé de s'armer d'intelligence artificielle pour trouver des liens entre la vaccination et diverses maladies.

L'idée de l'analyse de données est en soi une question bénéfique et même nécessaire. En médecine, il y a toujours de la place pour rechercher des effets secondaires extrêmement rares qui auraient pu échapper à l'attention des chercheurs lors des essais cliniques standard. Cependant, le diable, comme d'habitude, réside dans les détails—et dans qui exactement contrôle cette technologie.

Kennedy Jr. a passé des décennies à construire sa carrière publique sur un scepticisme rigoureux envers les vaccins. Désormais à sa disposition se trouve un outil capable de transformer des plaintes dispersées et souvent non confirmées en hypothèses ostensiblement fondées scientifiquement.

Le problème est que l'IA moderne n'est ni un juge impartial ni un porteur de la vérité absolue. C'est un miroir des données qui y sont chargées et des invites qui lui sont dictées. Si vous alimentez un réseau de neurones avec une immense base de données VAERS contenant toute plainte de personnes après les vaccinations—des légers maux de tête aux blessures aléatoires—et que vous lui demandez insistamment de trouver des modèles, il les trouvera.

Les réseaux de neurones sont des virtuoses pour halluciner des corrélations, particulièrement si on leur demande très instamment. Les scientifiques du monde entier craignent que le nouvel outil ne devienne un tapis roulant pour produire des gros titres sensationnalistes sur des dommages prouvés, ignorant complètement le principe médical fondamental : après ne signifie pas à cause de.

Ce cas pose une question éthique cruciale à l'ensemble de l'industrie de l'IA. Nous avons l'habitude de discuter d'erreurs absurdes de chatbot, quand ils confondent les dates de naissance de célébrités ou inventent des livres inexistants. Mais quand un algorithme commence à générer des hypothèses médicales capables d'influencer la politique d'État et la santé de millions de personnes, les enjeux montent en flèche. Utiliser l'apprentissage automatique pour confirmer son propre biais (le soi-disant biais de confirmation) est peut-être le scénario le plus dangereux pour l'application de la technologie au gouvernement. Au lieu d'utiliser des algorithmes pour vérifier objectivement la sécurité des médicaments, nous risquons d'obtenir un outil parfait pour légitimer les théories conspirationnistes.

La situation est d'autant plus compliquée par le fait que le grand public tend à faire plus confiance aux conclusions tirées par les ordinateurs qu'aux paroles des politiciens. Si le Département de la santé et des services sociaux des États-Unis commence à publier des rapports générés par des réseaux de neurones, la communauté scientifique trouvera extrêmement difficile de contrer ces arguments. Après tout, argumenter contre des chiffres et des graphiques soutenus par une intelligence mystérieuse et puissante est psychologiquement plus difficile que d'argumenter contre un personnage public.

Nous entrons dans une ère de données alternatives, où l'IA pourrait devenir non pas une assistante du médecin, mais une arme principale dans une guerre informationnelle contre la médecine fondée sur des preuves. Et nous traiterons les conséquences de cette expérience pendant très longtemps.

L'essentiel : La communauté scientifique pourra-t-elle créer un système de contrepoids, ou nous attend-il une époque où les normes médicales seront dictées par des algorithmes avec une direction de recherche prédéterminée ?