Un modèle de 8 milliards de paramètres surpasse Claude Opus 4.8 dans la génération d'idées scientifiques

Le problème : la diversité dans la génération d'idées

Dans un pipeline de recherche, l'une des premières étapes consiste à générer des idées. Les grands modèles de langage (LLM) sont de plus en plus utilisés pour automatiser ce processus, mais la majorité des travaux dans ce domaine se concentrent sur la qualité de chaque idée, en ignorant leur diversité. Cela crée un goulot d'étranglement : le modèle peut produire des propositions de haute qualité, mais qui se ressemblent toutes entre elles.

Méthodologie : le reinforcement learning au niveau de l'ensemble

Les chercheurs de Salesforce AI Research (auteurs : Manya Wadhwa, Pranav Narayanan Venkit, Hiroaki Hayashi, Yu Li, Tuhin Chakrabarty, Chien-Sheng Wu) ont proposé une approche différente. Ils ont entraîné un modèle de 8B paramètres à l'aide d'un objectif de reinforcement learning au niveau de l'ensemble (set-level reinforcement learning objective) — une fonction objectif qui évalue l'ensemble complet des idées, et non chaque idée séparément.

En une seule génération, le modèle rédige K fiches d'idées structurées (idea cards), rattachées à des articles scientifiques sources (document-grounded ideation). Point clé : lors de l'évaluation conjointe de l'ensemble, chaque idée est pondérée selon sa distance par rapport aux idées déjà rédigées. Cela entraîne le modèle à s'écarter consciemment de ses propres propositions précédentes et à générer des ensembles aussi diversifiés que possible.

Résultats : au-dessus de Claude Opus et GPT-6

Sur un benchmark exempt de contamination (excluant les données sur lesquelles les modèles auraient pu être entraînés), le modèle de 8B a atteint une creative utility — une métrique combinant qualité et diversité — supérieure à celle de Claude Opus 4.8 et de GPT-6 Astra.

Dans une étude pilote menée avec quatre experts, les ensembles d'idées produits par le modèle de 8B ont été jugés aussi prometteurs que les sorties de Claude Opus 4.8. Les experts ont noté que les idées du modèle de Salesforce contenaient légèrement plus de propositions uniques.

Résultat important : lorsqu'un agent de codage (coding agent) a exécuté des expériences de preuve de concept basées sur les idées générées, le success@k (la proportion d'idées menant à une implémentation réussie) du modèle Salesforce s'est révélé comparable à celui de Claude Opus 4.8. Cela signifie que la diversité accrue n'affecte pas l'exécutabilité pratique des idées — elles restent réalisables.

La portée de cette recherche

Ces résultats démontrent qu'un modèle plus petit, entraîné sur une fonction objectif adaptée (le reinforcement learning au niveau de l'ensemble), peut surpasser des modèles fermés bien plus massifs sur une tâche spécialisée : la génération d'idées scientifiques diverses mais qualitatives. C'est un enjeu important pour les organisations de recherche qui cherchent à automatiser l'idéation en amont de leur pipeline.

Le projet a été publié par Salesforce AI Research en open source, avec un benchmark exempt de contamination, ce qui permet à la communauté de reproduire et de prolonger ces résultats.