Mine-Sample-Render : une méthode en trois étapes pour une génération vraiment diversifiée

Quand la diversité se perd à la sortie

Les modèles génératifs actuels atteignent une qualité impressionnante — du texte aux images, de la vidéo aux assets 3D. Mais il y a un paradoxe : ces mêmes modèles produisent systématiquement des échantillons homogènes, même lorsqu'on leur demande explicitement de la diversité. Un texte bien écrit, mais ennuyeux ; une image de qualité, mais semblable aux précédentes ; une simulation d'utilisateur correcte, mais répétitive.

Les chercheurs Kostas Triaridis, Morris Sharp et Nebojsa Jojic, de Microsoft Research, proposent MINE-SAMPLE-RENDER (MSR), une approche qui renverse le problème. Plutôt que de compter sur le mécanisme d'aléa intégré au modèle, les auteurs proposent une procédure explicite et contrôlée, appliquée au moment de l'inférence. L'idée est simple : prendre un corpus d'exemples réels, en extraire une carte de la diversité, puis utiliser cette carte pour piloter la génération.

Un pipeline en trois étapes

La première étape est l'extraction (Mining). La méthode analyse un corpus d'artefacts réels (bulletins météo, designs web, descriptions d'utilisateurs) et en extrait un schéma catégoriel — la structure des attributs qui varient dans les données. En parallèle, les statistiques de ces attributs sont calculées ; elles serviront de guide pour les étapes suivantes.

La deuxième étape est l'échantillonnage (Sampling). À partir des statistiques obtenues, la méthode échantillonne des configurations concrètes d'attributs. Il ne s'agit pas de nombres arbitraires, mais d'un choix raisonné issu de la distribution observée dans les données réelles. Les attributs sont sélectionnés de façon à ce que la diversité finale reflète celle du corpus.

La troisième étape est le rendu (Rendering). Ici, le modèle génératif sert uniquement de moteur de rendu conditionnel. Le modèle ne décide pas ce qu'il génère — cette décision a déjà été prise à l'étape d'échantillonnage. Le modèle se contente de prendre la configuration d'attributs et de produire la sortie correspondante. Cela réduit l'entropie du processus et améliore la reproductibilité.

La méthode a été testée sur cinq domaines différents : génération de bulletins météo, simulation du comportement des utilisateurs, conception de pages web, conversion texte-image (text-to-image), et création d'assets 3D par des agents. Dans tous les cas, MSR a amélioré l'alignement avec la distribution du corpus et la diversité des sorties, tout en préservant la qualité.

Contexte et approches connexes

La question de la diversité en modélisation générative suscite une attention croissante de la part des chercheurs. Sur la plateforme Hugging Face, des travaux proches ont récemment été discutés :

• « Gacha Decoding: Eliciting Diverse Generations Through Instruction Following » (2026)
• « Do Large Language Models Capture the Diversity in their Training Data? » (2026)
• « Beyond Mode Collapse: Generating Diverse Synthetic Expert Conversations via Generative Flow Networks » (2026)
• « DOGS: Design-Space Sampling for Prompt-Driven Logo Generation » (2026)
• « Gap Detection: Mitigating Homogenization through Demand and Defensibility » (2026)
• « A Ticket from Marginals to Joints: Coupled-Noise Distillation for One-Step Block Generation in Diffusion Language Models » (2026)
• « DiVid: Diagnosing Dimension-Specific Diversity Collapse in Video Generation Models » (2026)

MSR se distingue par son caractère pratique : il s'agit d'une approche appliquée au moment de l'inférence, qui ne nécessite aucun réentraînement du modèle. Elle peut être appliquée à n'importe quel modèle génératif existant, ce qui en fait un outil universel pour améliorer la diversité des sorties.