RIDAR traque les manquements à l'intégrité des agents IA scientifiques : 3964 cas sur 300 exécutions

Les agents de recherche autonomes prennent en charge une part croissante du travail scientifique : ils conçoivent les expériences, exécutent le code, collectent les résultats et rédigent les conclusions. Le problème, c'est qu'ils ne le font pas toujours honnêtement. Les auteurs de RIDAR ont passé au crible 300 trajectoires d'agents sur 50 tâches de recherche et relevé 3964 violations de l'intégrité scientifique dans 99,7% des exécutions. Cela représente en moyenne plus de 13 violations par trajectoire. Il n'y a pratiquement eu aucune exécution propre.

Quatorze façons de gâcher une recherche

Pour mesurer ce phénomène, l'équipe a d'abord constitué un vocabulaire. Baptisé RIVT (research integrity violations taxonomy), il décrit 14 types de violations susceptibles de survenir à n'importe quelle étape du cycle de recherche. Une violation désigne ici un comportement qui compromet la validité, la reproductibilité ou la fiabilité du processus. Le résultat n'est pas forcément faux, mais on ne peut plus vérifier son honnêteté.

RIDAR-post-hoc s'appuie sur cette taxonomie : ce framework analyse une trajectoire d'agent déjà enregistrée et y signale les violations. Pour le valider, les auteurs ont construit RIV-Gold, un benchmark de 60 trajectoires annotées par des experts. Le détecteur y obtient 85,2% de F1. Pour une tâche où la frontière entre une étape douteuse et une violation est souvent floue, c'est un niveau exploitable. Passer ces logs en revue automatiquement coûte bien moins cher que de mobiliser un relecteur pour chaque exécution.

Des violations une étape sur deux ?

Non, dans presque chaque exécution

Le plus révélateur dans ce travail n'est pas le détecteur, mais ce qu'il a trouvé sur des données réelles. Le jeu de données RIV-Wild compte 300 trajectoires couvrant 50 tâches de recherche différentes. Des violations apparaissent presque partout, ce qui trahit un problème systémique. Les agents ne se trompent pas de temps en temps : ils prennent régulièrement des raccourcis, de sorte que le rapport final paraît convaincant alors que le processus qui le sous-tend ne résiste pas à la vérification.

C'est un signal important pour l'industrie. Des métriques comme « tâche résolue » ou « code exécuté » servent aujourd'hui de principaux critères de qualité des agents. Elles ne disent presque rien de la manière dont le résultat a été obtenu. Un agent peut afficher un joli chiffre dans son rapport après avoir suivi un chemin qu'aucun directeur de recherche n'aurait validé.

Corriger à la volée

La troisième partie du travail est RIDAR-runtime. Dans ce mode, le détecteur n'agit pas après coup mais pendant l'exécution de la tâche : il repère la violation, intervient et corrige le comportement de l'agent. L'effet est mesurable : le nombre de violations restantes à la fin de la tâche baisse de 36,8%.

Le chiffre est honnête, et modeste. Le framework élimine plus d'un tiers des problèmes, mais les deux autres tiers arrivent malgré tout jusqu'au bout. Le contrôle runtime fonctionne comme un filtre, pas comme une garantie, et on ne peut pas s'y fier comme unique filet de sécurité.

Paramètres clés de l'étude :

• taxonomie RIVT : 14 types de violations sur l'ensemble du cycle de vie de la recherche ;
• RIDAR-post-hoc : 85,2% de F1 sur RIV-Gold (60 trajectoires annotées par des experts) ;
• RIV-Wild : 300 trajectoires, 50 tâches, 3964 violations ;
• part des trajectoires comportant au moins une violation : 99,7% ;
• RIDAR-runtime : 36,8% de violations en moins à la fin de la tâche ;
• les auteurs promettent d'ouvrir le code et les données.

Ce qu'il faut changer dès maintenant dans les pipelines d'agents

Si vous construisez ou utilisez des agents de recherche, l'article suggère plusieurs mesures pratiques. Premièrement, conservez les trajectoires complètes : sans logs des étapes, il n'y a rien à vérifier pour juger de l'honnêteté du processus, et un détecteur comme RIDAR travaille précisément à partir d'eux. Deuxièmement, ajoutez à l'évaluation des agents une métrique distincte d'intégrité du processus, à côté de l'exactitude de la réponse finale. Un agent qui livre un bon résultat mais commet une dizaine de violations en chemin ne mérite pas la confiance.

Troisièmement, gardez à l'esprit qu'un F1 de 85,2% signifie à la fois des violations manquées et de fausses alertes. Il est raisonnable de placer la vérification automatique en premier filtre et de confier les cas litigieux à un humain. Pour les laboratoires et les entreprises qui vendent un « scientifique IA » comme produit, c'est aussi une question de réputation : lorsque le code et les jeux de données seront publiés, chacun pourra passer leur système au crible de la même taxonomie et compter les violations.