OpenAI et les revues scientifiques : les articles d'IA s'améliorent et saturent l'évaluation par les pairs

Les revues scientifiques font face à un nouveau problème : l'IA s'est mise à produire à la chaîne non plus des articles franchement absurdes, mais des articles tout à fait plausibles. Résultat, éditeurs et relecteurs passent de plus en plus de temps à écarter des travaux convaincants en apparence, mais qui n'apportent presque rien de neuf.

Comment la hausse a été repérée

Le problème a pris de l'ampleur après une étrange affaire autour des travaux du chercheur Peter Degen. Son article de 2017 sur l'analyse statistique de données épidémiologiques récoltait depuis des années un nombre de citations banal pour le milieu académique, puis s'est mis à en recevoir littéralement tous les quelques jours. La vérification a montré qu'il était cité en masse par de nouveaux travaux fondés sur le jeu de données ouvert Global Burden of Disease.

Sur le papier, il s'agissait d'études sur le risque d'AVC, de cancer, de chutes chez les personnes âgées et sur des dizaines d'autres sujets, mais au fond, c'étaient d'infinies variations d'un même modèle. Degen a trouvé des traces de cette usine sur GitHub et sur la plateforme chinoise Bilibili, où une entreprise de Canton proposait des cours pour produire des articles scientifiques publiables en moins de deux heures, avec son propre logiciel et des assistants d'IA. Ces textes contenaient souvent des erreurs et des approximations, mais ils ne paraissaient plus aussi absurdes que les premiers déchets d'IA.

Les écarter est devenu bien plus difficile, et la charge pour les revues a augmenté.

C'est une charge énorme pour le peer review, qui tourne déjà à la

limite de ses capacités.

Pourquoi les filtres patinent

Autrefois, les articles falsifiés ou assemblés automatiquement présentaient des marqueurs visibles : références inventées, illustrations étranges, formules de réponse de chatbot oubliées dans le texte final. Les éditeurs menaient déjà une guerre contre les paper mills, ces usines semi-légales à articles qui vendent aux auteurs des publications pour garnir leur CV. L'IA générative a d'abord aidé ces circuits à contourner les logiciels antiplagiat, tout en se trahissant elle-même par ses hallucinations. Ce garde-fou a presque disparu : les manuscrits sont devenus cohérents, bien structurés et stylistiquement homogènes.

Les rédacteurs de revues le ressentent particulièrement. Marit Moe-Pryce, rédactrice en chef déléguée de Security Dialogue, explique que le nombre de manuscrits reçus a augmenté d'environ 100 pour cent d'une année sur l'autre, et que le principal souci est que presque tous paraissent normaux au premier regard. Dans un cas, un article est passé entre les mains d'au moins dix éditeurs et par deux tours de relecture avant que quelqu'un remarque une référence plausible mais inventée. Il ne suffit plus de vérifier que l'œuvre citée existe ; il faut aussi se demander si un véritable expert l'aurait choisie.

Là où le système cède

Le risque est amplifié non seulement par les générateurs à modèles, mais aussi par des agents scientifiques plus autonomes. Des chercheurs de Carnegie Mellon ont montré que ces outils peuvent inventer des données ou recourir à des méthodes douteuses, alors que l'article final paraît soigné. Matt Spick, de la University of Surrey, a testé l'outil Prism sur des données déjà publiées concernant la maturation des aubergines et des poivrons. Le système a proposé une nouvelle approche statistique et, en 25 minutes et 50 secondes, a produit un article complet avec graphiques et références correctes, assez bon pour surprendre sincèrement des scientifiques chevronnés.

• Les revues constatent une hausse du flux entrant de 40–100 pour cent.
• Pour trouver deux relecteurs, les éditeurs doivent de plus en plus écrire à 12–20 personnes.
• Les organismes de financement reçoivent déjà une avalanche de dossiers soigneusement calibrés.
• Conférences, rédactions et relecteurs consacrent toujours plus d'heures à vérifier à la main des travaux d'utilité douteuse.

Le problème ne tient pas seulement à la qualité des modèles, mais à la structure même de la science. Les revues en open access gagnent de l'argent en traitant les manuscrits, les universités et les fondations regardent toujours le nombre de publications, et les chercheurs vivent selon la logique du publish or perish. Dans ce contexte, l'IA devient une machine à gonfler les métriques.

D'après une étude publiée cette année dans Nature, les scientifiques qui utilisent l'IA publient trois fois plus d'articles et reçoivent près de cinq fois plus de citations. Mais la hausse de productivité s'accompagne d'un rétrécissement du champ : le système pousse les auteurs vers des sujets déjà bien balisés, où il est plus simple de synthétiser un résultat publiable de plus.

Ce que cela signifie

La menace principale n'est pas que l'IA remplace entièrement les scientifiques, mais qu'elle sape déjà les filtres humains sur lesquels repose le monde académique. Si la valeur scientifique continue d'être mesurée avant tout au nombre d'articles et de citations, les modèles ne feront qu'accélérer la production de travaux qui prennent le temps des autres sans faire avancer la connaissance. La science devra donc changer à la fois ses méthodes de vérification de l'authenticité et les règles mêmes de la réussite académique.