Meta dévoile Autodata, un système agentique pour produire des données d'entraînement de qualité

Le 1er mai, Meta a dévoilé Autodata, un framework dans lequel des agents LLM collectent, vérifient et affinent eux-mêmes des jeux de données d'entraînement. L'idée : faire passer le modèle du statut de simple générateur de données synthétiques à celui de data scientist autonome, qui améliore de façon itérative la qualité des exemples.

À quoi sert Autodata

Les données synthétiques sont depuis longtemps l'un des principaux moyens d'accélérer l'entraînement des modèles : elles coûtent moins cher que l'annotation manuelle, aident à couvrir des scénarios rares et permettent de générer des tâches plus complexes que celles que l'on trouve facilement dans les corpus ouverts. Mais la plupart des approches courantes, de Self-Instruct aux variantes grounded et CoT, partagent une limite : elles créent les données en une seule passe, et la qualité n'est contrôlée qu'après la génération, par filtrage ou retouche manuelle.

Autodata change la logique du processus. Au lieu de générer des exemples une fois en espérant que certains soient réussis, Meta propose une boucle fermée, proche du travail d'un chercheur en données. L'agent s'appuie sur des documents sources, crée des tâches, analyse où elles sont trop faciles, trop bruitées ou insuffisamment utiles, puis réécrit sa propre recette de génération et réessaie. En pratique, le calcul d'inférence supplémentaire ne sert pas seulement aux réponses du modèle, mais aussi à améliorer les données sur lesquelles il apprendra ensuite.

Comment fonctionne la boucle

La première implémentation pratique du framework s'appelle Agentic Self-Instruct. Un LLM central y joue le rôle d'orchestrateur et pilote plusieurs agents spécialisés, chacun responsable d'une étape de contrôle qualité. Ce pipeline vise à ce que le jeu de données ne contienne pas seulement des exemples corrects, mais ceux où le modèle fort fait systématiquement mieux que le faible. Comme base, l'agent utilise des sources telles que des articles scientifiques, du code ou d'autres documents spécialisés.

• Challenger crée une nouvelle question, un contexte, une réponse de référence et une grille d'évaluation à partir du document source.
• Weak solver tente de résoudre la tâche dans un mode restreint et doit échouer sensiblement plus souvent.
• Strong solver résout la même tâche avec une configuration plus puissante et doit franchir le seuil de qualité.
• Verifier/Judge vérifie l'exemple lui-même, puis évalue les réponses des deux modèles selon des critères définis à l'avance.

Si la question est trop simple, le modèle faible marque trop de points et l'exemple est écarté. Si elle est trop difficile, le modèle fort échoue aussi et l'agent doit chercher un autre angle d'attaque. Pour accepter un exemple, Meta applique des seuils précis : le score moyen du weak solver ne doit pas dépasser 65 %, celui du strong solver ne doit pas être inférieur à 60 % ni supérieur à 95 %, et l'écart entre les deux doit être d'au moins 20 points de pourcentage. Chaque document passe généralement par plusieurs tours de ce retravail.

«

La création agentique de données permet de transformer du calcul d'inférence supplémentaire en un entraînement de modèles de meilleure qualité. »

Ce que montrent les tests

Meta a testé Agentic Self-Instruct sur des tâches scientifiques en informatique. Le système a traité plus de 10 000 articles du corpus S2ORC datant de 2022 et au-delà, et a fini par réunir 2117 paires question-réponse ayant passé tous les filtres de qualité.

Le résultat clé n'est pas seulement un volume de données accru, mais un pouvoir discriminant renforcé. Avec le CoT Self-Instruct classique, les modèles faible et fort obtenaient des scores quasi identiques : 71,4 % contre 73,3 %, soit un écart de seulement 1,9 point. En mode agentique, le weak solver est tombé à 43,7 % et le strong solver est monté à 77,8 %, portant l'écart à 34 points.

Meta a ensuite optimisé non plus les questions elles-mêmes, mais le « comportement » de l'agent data scientist. Dans une boucle externe, un optimiseur évolutionnaire lançait de nouvelles versions du stock de prompts et de la logique d'évaluation, en ne conservant que celles qui amélioraient le résultat de validation. Au total, 233 itérations ont eu lieu, dont 126 ont été acceptées, et la part d'exécutions réussies est passée de 12,8 % à 42,4 %.

Parmi les améliorations trouvées automatiquement figurent un contrôle plus strict du lien entre la question et l'article précis, une protection contre la fuite de la solution dans le contexte, l'abandon des poids négatifs dans les grilles et la conversion des critères en un format JSON strict. Et cela change déjà l'économie du post-entraînement.

Ce que cela signifie

Autodata laisse penser que le prochain niveau de la concurrence en IA pourrait passer de « qui a entraîné le plus gros modèle » à « qui a construit le meilleur pipeline de données ». Pour les équipes applicatives, c'est particulièrement important : au lieu d'une annotation manuelle sans fin, elles peuvent investir du calcul dans un agent qui sélectionne lui-même des exemples difficiles, précis et réellement utiles pour le fine-tuning et l'évaluation des modèles.

*Meta est considérée comme une organisation extrémiste et est interdite en Russie.