Les médecins ne demandent pas de diagnostics aux LLM : 127 833 requêtes face à 58 benchmarks

Les cliniciens n'utilisent pas les modèles de langage comme on les évalue. Les auteurs d'un nouveau preprint publié sur arXiv ont analysé 127 833 requêtes envoyées à un assistant LLM institutionnel pendant les huit mois qui ont suivi son lancement. Ces requêtes ont été rédigées par 6 342 médecins, professionnels de pratique clinique avancée et infirmières, issus de 35 spécialités. La documentation et l'administration représentent 36,2% de l'ensemble des demandes, la recherche de connaissances 28,9%. Le diagnostic, autour duquel s'organise la plupart des tests médicaux, n'en reçoit que 3,7%.

Comment l'étude est construite

Pour juger si les assistants cliniques sont prêts à être déployés, on s'appuie généralement sur des benchmarks. La plupart sont construits à partir de questions d'examen ou de cas cliniques préparés à l'avance. Un tel test ne prédit le comportement du modèle au travail que tant que ses tâches ressemblent aux tâches réelles. Cette ressemblance n'avait presque jamais été mesurée.

Pour la mesurer, les auteurs ont construit RCQ-Map, un framework validé par des cliniciens. Il s'appuie sur des taxonomies de questions cliniques et sur des taxonomies d'évaluation des LLM. Chaque requête est annotée selon cinq axes : la tâche, l'intention, la possibilité d'y répondre, l'information manquante et le préjudice potentiel. Avec le même outil, les auteurs ont annoté 58 benchmarks publics, issus de grands jeux d'évaluation et de rapports sur les modèles frontier. Ces annotations ont donné naissance au Clinical AI Benchmark Atlas.

Ce que montrent les chiffres

Voici à quoi ressemble la charge réelle :

• documentation et administration : 36,2% des requêtes ;
• recherche de connaissances : 28,9% ;
• diagnostic : 3,7% ;
• plus d'un tiers des requêtes ne pouvaient pas recevoir de bonne réponse telle qu'elles avaient été posées.

Le dernier point mérite une attention particulière. L'utilisateur réel fournit souvent peu de contexte : il ne désigne pas le patient, ne précise pas l'objectif, ne joint pas de données. Une question d'examen est construite autrement : l'énoncé est complet et la réponse sans ambiguïté. Un modèle qui résout brillamment ce type d'exercices peut se débrouiller moins bien face à une question dont la moitié des éléments manque. Or ces questions occupent une part notable du flux.

Où les benchmarks s'écartent de la pratique

Le benchmark médian, sur les 58 analysés, ne contenait aucune requête de documentation. Son jeu de tâches coïncidait avec le jeu réel à 31%. C'est moins que ce qu'aurait donné une répartition uniforme entre les catégories de tâches. Autrement dit, un test composé au hasard, avec un poids identique pour chaque catégorie, serait en moyenne plus proche de la réalité que le benchmark en vigueur typique.

L'hypothèse naturelle est que les jeux présentés comme proches de la pratique clinique devraient faire mieux que les tests d'examen. Les données ne la confirment pas. Pris séparément, les benchmarks issus de ces jeux ne sont pas plus proches de l'usage réel que ceux cités dans les rapports sur les modèles frontier. Le seul qualificatif « clinique » ne garantit pas la ressemblance avec le flux de travail réel.

Les limites sont également visibles. Les données proviennent d'un seul système institutionnel et d'un seul assistant ; la structure des requêtes peut différer dans un autre hôpital ou dans un autre pays. Par ailleurs, les auteurs mesurent la correspondance de la composition des tâches, pas la qualité des réponses. Un benchmark de diagnostic peut toujours constituer une mesure valide des capacités diagnostiques. Le problème, c'est qu'on s'en sert pour juger de l'aptitude du système à l'ensemble du travail.

Comment évaluer les assistants cliniques

Pour les hôpitaux qui choisissent ou déploient un assistant LLM, la conclusion est pratique. Les scores publics ne doivent être considérés que comme une partie du tableau. Il faut tester le modèle sur un échantillon de requêtes propres à l'établissement, où dominent la documentation, l'administration et la recherche d'informations de référence. Il convient de tester séparément les questions incomplètes et ambiguës, ainsi que la manière dont le système demande des précisions au lieu de fournir une réponse assurée. Le préjudice potentiel peut aussi être évalué pour chaque type de tâche.

Pour les développeurs et les auteurs de benchmarks, le signal est le même : un jeu de tests doit être construit en tenant compte de la répartition réelle des tâches. L'atlas fourni par les auteurs permet de vérifier quels pans de la pratique restent sans mesure. Tant qu'ils sont nombreux, un score élevé à un test d'examen en dit moins sur le travail de l'IA clinique qu'il n'y paraît.