Diagnostic par algorithme : qui est responsable quand l’AI se trompe en médecine

Une révolution silencieuse se déroule dans les salles d'opération et les cabinets de diagnostic du monde entier. Les algorithmes d'apprentissage automatique lisent les radiographies, analysent les résultats de biopsies, détectent les arythmies sur les électrocardiogrammes et prédisent la probabilité de développement de maladies oncologiques. Selon l'Organisation mondiale de la santé, au début de 2026, plus de 500 systèmes d'IA avaient reçu l'approbation réglementaire pour un usage clinique aux États-Unis seuls. La technologie fonctionne, et souvent de manière impressionnante. Mais derrière la façade de l'optimisme technologique se cache une question à laquelle la communauté médicale, les législateurs et les développeurs n'ont pas encore trouvé de réponse convaincante : qui est responsable quand l'algorithme se trompe?

Le problème n'est pas théorique. En 2025, plusieurs cas très médiatisés en Europe et en Asie ont montré que les assistants basés sur l'IA peuvent manquer des pathologies critiques ou, inversement, générer des faux positifs conduisant à des procédures invasives inutiles. Dans chacun de ces cas, la responsabilité s'est diluée entre plusieurs participants de la chaîne : l'entreprise développeuse prétendait que le système était simplement un outil d'aide à la décision, l'hôpital invoquait la certification du produit, et le médecin se trouvait pris entre sa propre expertise et la recommandation d'une machine qui s'était avérée plus précise que lui dans des milliers de cas antérieurs.

La racine du problème réside dans l'architecture même de l'IA médicale moderne. La plupart des systèmes cliniques sont construits selon le principe de la "boîte noire"—les réseaux de neurones profonds prennent des décisions dont la logique ne peut pas être complètement expliquée même par leurs créateurs. Quand un radiologue examine une image et rend un diagnostic, il peut justifier chaque étape de son raisonnement. Quand un algorithme fait de même, il produit une probabilité et une carte thermique d'attention, mais pas une justification clinique. Cela crée une faille fondamentale : le médecin est obligé soit de faire confiance aveuglément au système, soit de procéder à une évaluation indépendante complète à chaque fois, ce qui annule tous les gains d'efficacité.

Une facette distincte de ce problème est le soi-disant effet de biais d'automatisation. Des décennies de recherche en aviation et dans l'industrie ont montré que les gens ont tendance à trop dépendre des systèmes automatisés, perdant progressivement leurs propres capacités d'évaluation critique. En médecine, cet effet est potentiellement plus dangereux que dans n'importe quel autre domaine.

Les jeunes médecins qui travaillent avec des assistants basés sur l'IA dès leurs premières années de formation risquent de ne jamais développer la profondeur de réflexion clinique qui a permis à leurs prédécesseurs de détecter les pathologies rares qui ne correspondent pas aux schémas statistiques. Un algorithme est entraîné sur des millions de cas typiques, mais la médecine est largement un art de traiter les exceptions.

Le paysage réglementaire ressemble toujours à un patchwork. La Loi sur l'IA européenne, entrée en vigueur par étapes, classe les systèmes d'IA médicale comme étant à haut risque et exige la transparence, mais les mécanismes spécifiques de répartition des responsabilités restent flous. En Russie, le ministère de la Santé promeut activement la numérisation des soins de santé, mais le cadre réglementaire pour le diagnostic par IA se développe plus lentement que les technologies elles-mêmes. La question de la responsabilité juridique se résume à un dilemme classique : un système d'IA n'est pas un sujet de droit, il ne peut pas être tenu responsable, perdre une licence ou être poursuivi en justice.

L'approche la plus mature de ce problème se dessine au Royaume-Uni, où le Service national de santé a développé un cadre qui répartit la responsabilité en trois niveaux. Le développeur est responsable de la validation et de la sécurité de l'algorithme. L'établissement médical est responsable de la mise en œuvre correcte et du suivi. Le médecin conserve la responsabilité clinique finale, à condition qu'on lui fournisse des outils adéquats pour évaluer de manière critique les recommandations de l'IA. Ce n'est pas une solution parfaite, mais au moins un cadre opérationnel permettant d'avancer.

L'industrie doit reconnaître une vérité inconfortable : la maturité technologique de l'IA en médecine a largement dépassé la disponibilité institutionnelle à son application. Les algorithmes surpassent déjà les spécialistes moyens dans un certain nombre de tâches diagnostiques précises, mais le système de santé est bien plus que la simple précision de la reconnaissance des pathologies. Il y a la confiance des patients, la protection juridique, les normes éthiques et l'empathie humaine qui ne peuvent pas être numérisées.

L'avenir de l'IA médicale ne réside pas dans le remplacement du médecin, mais dans la création d'un nouveau modèle de partenariat où les limites de responsabilité sont définies aussi clairement que les protocoles de traitement. Jusqu'à ce que cela se produise, chaque diagnostic algorithmique reste une expérience—brillant techniquement, mais vulnérable juridiquement et éthiquement.