Diagnostic d'algorithme : qui est responsable quand l'IA se trompe en médecine

Une révolution silencieuse se déroule dans les blocs opératoires et les cabinets de diagnostic du monde entier. Des algorithmes d'apprentissage automatique lisent des radiographies, analysent des résultats de biopsie, repèrent des arythmies sur des électrocardiogrammes et prédisent la probabilité de développer un cancer. Selon l'Organisation mondiale de la santé, début 2026, plus de 500 systèmes d'IA avaient obtenu une autorisation réglementaire pour un usage clinique aux seuls États-Unis. La technologie fonctionne, et souvent de manière impressionnante. Mais derrière la façade de l'optimisme technologique se cache une question à laquelle ni le corps médical, ni les législateurs, ni les développeurs n'ont encore apporté de réponse convaincante : qui est responsable quand l'algorithme se trompe ?

Le problème n'a rien de théorique. En 2025, plusieurs cas très médiatisés en Europe et en Asie ont montré que les assistants d'IA peuvent passer à côté de pathologies critiques ou, à l'inverse, produire des faux positifs menant à des actes invasifs inutiles. Dans chacun d'eux, la responsabilité s'est diluée entre les maillons de la chaîne : l'éditeur a expliqué que le système n'était qu'un outil d'aide à la décision, l'hôpital s'est retranché derrière la certification du produit, et le médecin s'est retrouvé pris en étau entre sa propre expertise et la recommandation d'une machine qui, dans des milliers de cas antérieurs, avait été plus précise que lui.

La racine du problème tient à l'architecture même de l'IA médicale actuelle. La plupart des systèmes cliniques reposent sur le principe de la « boîte noire » : des réseaux de neurones profonds prennent des décisions dont la logique ne peut être entièrement expliquée, même par leurs concepteurs. Quand un radiologue examine une image et rend son avis, il peut justifier chaque étape de son raisonnement.

Quand un algorithme fait la même chose, il fournit une probabilité et une carte de chaleur de l'attention, mais pas de justification clinique. Cela crée une faille fondamentale : le médecin doit soit se fier aveuglément au système, soit mener à chaque fois une évaluation indépendante complète, ce qui annule tout le gain d'efficacité.

Une autre facette du problème est ce qu'on appelle l'effet d'automatisation. Des décennies de recherche en aviation et dans l'industrie ont montré que les gens ont tendance à trop s'en remettre aux systèmes automatiques, en perdant peu à peu leurs propres capacités d'évaluation critique. En médecine, cet effet est potentiellement plus dangereux que dans tout autre domaine. Les jeunes médecins qui travaillent avec des assistants d'IA dès les premières années de leur formation risquent de ne jamais développer la profondeur de raisonnement clinique qui permettait à leurs prédécesseurs de déceler des pathologies rares, hors des schémas statistiques. L'algorithme est entraîné sur des millions de cas typiques, mais la médecine est en grande partie l'art de traiter les exceptions.

Le paysage réglementaire ressemble encore à un patchwork. L'AI Act européen, qui entre en vigueur par étapes, classe les systèmes d'IA médicaux parmi les systèmes à haut risque et exige de la transparence, mais les mécanismes concrets de répartition des responsabilités restent flous. En Russie, le ministère de la Santé promeut activement la numérisation de la santé, mais le cadre normatif pour le diagnostic par IA évolue plus lentement que la technologie elle-même. La question de la responsabilité juridique se heurte à un dilemme classique : un système d'IA n'est pas un sujet de droit. Il ne peut pas être tenu responsable, perdre sa licence ni être traduit en justice.

L'approche la plus aboutie se dessine au Royaume-Uni, où le Service national de santé a élaboré un cadre qui répartit la responsabilité sur trois niveaux. Le développeur répond de la validation et de la sécurité de l'algorithme. L'établissement de santé, du bon déploiement et du suivi. Le médecin conserve la responsabilité clinique finale, à condition de disposer d'outils adéquats pour évaluer de façon critique les recommandations de l'IA. Ce n'est pas une solution parfaite, mais c'est au moins un cadre opérationnel qui permet d'avancer.

L'industrie devra admettre une vérité dérangeante : la maturité technologique de l'IA en médecine a largement devancé la préparation des institutions à l'utiliser. Les algorithmes surpassent déjà les spécialistes moyens dans un certain nombre de tâches diagnostiques étroites, mais un système de santé ne se résume pas à la précision de la reconnaissance des pathologies. Il repose aussi sur la confiance du patient, la protection juridique, les normes éthiques et une empathie humaine qu'on ne peut pas numériser.

L'avenir de l'IA médicale ne passe pas par le remplacement du médecin, mais par un nouveau modèle de partenariat où les limites de la responsabilité sont définies aussi clairement que les protocoles de soins. Tant que ce ne sera pas le cas, chaque diagnostic algorithmique restera une expérience : brillante sur le plan technique, mais fragile sur le plan juridique et éthique.