Генеративные модели теперь можно обучать сквозным способом: секрет — цикл for

Des chercheurs, dont les travaux sont analysés par Jiqizhixin, montrent que les modèles génératifs peuvent être entraînés de bout en bout (end-to-end) — selon le même principe qui a révolutionné la vision par ordinateur en 2012. Le mécanisme clé s'est avéré étonnamment simple — une simple boucle `for`.

Ce qu'AlexNet a prouvé en 2012

Avant AlexNet, les tâches de vision par ordinateur étaient résolues à l'aide de pipelines manuels en plusieurs étapes : les chercheurs concevaient manuellement des détecteurs de bords, de textures et de formes, en les connectant dans une chaîne séquentielle. En 2012, AlexNet a confié l'ensemble du processus à un réseau de neurones, en l'entraînant sur la tâche dans son intégralité, et a écrasé ses concurrents lors de la compétition ImageNet avec une avance de plus de 10 points de pourcentage.

Le principe de l'entraînement end-to-end a depuis lors prévalu dans chaque nouvelle tâche de vision par ordinateur :

• 2012 — classification d'images : AlexNet surpasse les méthodes manuelles de plus de 10 %
• 2013–2015 — détection d'objets : R-CNN et YOLO remplacent les pipelines composites
• 2015–2017 — segmentation sémantique : FCN et U-Net sont entraînés end-to-end

À chaque fois, un seul système entraînable a surpassé le pipeline manuel. La logique est la même : plutôt que d'optimiser chaque étape séparément, il vaut mieux laisser le modèle chercher une solution à travers l'ensemble de la tâche.

Pourquoi les modèles génératifs restaient une exception

Les générateurs d'images modernes — les modèles de diffusion — produisent des résultats de manière itérative : en des dizaines ou centaines d'étapes, ils transforment du bruit aléatoire en image. Les modèles autorégressifs fonctionnent différemment, mais également pas à pas — token par token.

Propager les gradients à travers un tel processus itératif était soit computationnellement prohibitif, soit nécessitait des solutions architecturales spéciales. En conséquence, les composants des systèmes génératifs étaient traditionnellement entraînés séparément et combinés manuellement lors de l'inférence — précisément le schéma qu'AlexNet a prouvé sous-optimal pour les tâches de reconnaissance.

Le problème est fondamental : chaque étape de diffusion dépend de la précédente, et la chaîne de dépendances devient rapidement énorme. Stocker l'ensemble du graphe de calcul pour la rétropropagation à travers des centaines d'étapes entraîne une explosion de mémoire et des gradients instables.

Comment une boucle for change l'approche de l'entraînement

Les auteurs montrent que le processus itératif de génération peut être différencié en l'organisant simplement comme une boucle `for` standard. L'ensemble de la séquence d'étapes — du bruit initial à l'image finale — est réuni en une seule chaîne computationnelle à travers laquelle le gradient se propage.

«

AlexNet a prouvé quelque chose qui a été confirmé encore et encore depuis lors : confier l'ensemble de la tâche à l'entraînement end-to-end d'un modèle est presque toujours meilleur qu'un pipeline étape par étape soigneusement conçu par des humains », — comme le mentionne l'article de Jiqizhixin.

L'analogie avec AlexNet est directe : avant 2012, les caractéristiques pour la reconnaissance d'images passaient également par un pipeline à plusieurs étapes, et il semblait judicieux d'optimiser chaque étape séparément. AlexNet a montré que si l'on permet à toute la chaîne d'être différenciée comme un tout unique, le modèle trouve lui-même la meilleure stratégie. La même chose s'applique désormais à la boucle de génération.

Aucune nouvelle architecture ni optimiseur exotique n'est requis. La rétropropagation standard, implémentée via une construction de base du langage de programmation, permet d'entraîner l'ensemble du processus de génération comme un système unifié. Les frameworks modernes — PyTorch et JAX — prennent nativement en charge la différentiation des opérations dans une boucle.

Ce que cela signifie

Si l'entraînement end-to-end s'adapte à de grands modèles génératifs, il pourrait changer les normes de leur entraînement de la même façon qu'AlexNet a changé les approches des tâches de reconnaissance. À la place de composants disparates entraînés séquentiellement — un système unifié qui optimise de manière autonome la stratégie de génération. L'histoire de l'apprentissage profond le montre : lorsqu'un modèle a la possibilité d'apprendre sur la tâche dans son ensemble, il trouve presque toujours une solution meilleure que celle conçue à la main.