UASPL : une nouvelle méthode d'auto-apprentissage pour réseaux de neurones qui tient compte de l'incertitude des prédictions

En juillet 2026, des chercheurs ont décrit dans un article sur arXiv la méthode UASPL (Uncertainty-Aware Self-Paced Learning), une modification du self-paced learning qui tient compte non seulement de l'ampleur de l'erreur du modèle, mais aussi de la fiabilité de ses prédictions, en s'appuyant sur des evidential neural networks et le Subjective Logic framework.

Quel est le problème du self-paced learning classique

Le self-paced learning (SPL) est une approche répandue d'entraînement des réseaux de neurones qui imite l'apprentissage humain : le réseau « étudie » d'abord les exemples simples, puis passe progressivement aux plus difficiles, en se guidant sur la valeur de la fonction de perte (loss) de chaque échantillon. La logique est simple : plus l'erreur du modèle sur un exemple est faible, plus celui-ci est jugé « facile », et plus tôt il entre dans l'entraînement.

Les auteurs d'UASPL soulignent une faiblesse de ce raisonnement : une loss faible ne signifie pas toujours que la prédiction du modèle est réellement fiable. Un modèle peut afficher une erreur sous-estimée sur un exemple en réalité difficile ou bruité. L'algorithme le juge alors à tort « facile » et s'entraîne dessus plus tôt qu'il ne le devrait, ce qui peut fixer un schéma erroné.

Comment fonctionne UASPL

Pour résoudre ce problème, les auteurs proposent d'intégrer à la sélection des exemples une estimation de l'incertitude de la prédiction via des evidential neural networks, une architecture qui fournit, en plus de la prédiction elle-même, une estimation de la confiance qu'on peut lui accorder. Cette estimation est formalisée dans le Subjective Logic framework, un appareil mathématique permettant de décrire des jugements incertains, où chaque affirmation s'accompagne d'un degré de confiance.

Cette approche s'inscrit dans le courant plus large de l'evidential deep learning : au lieu de produire un seul chiffre de probabilité de classe, comme dans la classification softmax ordinaire, le réseau apprend aussi à évaluer sa « confiance dans sa propre confiance ». En pratique, cela permet de distinguer le cas où le modèle comprend réellement l'exemple de celui où une loss basse est apparue par hasard, par exemple à cause d'un bruit dans l'annotation ou d'une distribution atypique des caractéristiques dans un échantillon précis.

• La méthode repose sur une fonction de perte générale, applicable à différentes variantes du self-paced learning et pas seulement à une implémentation particulière
• La fonction de perte remplit deux rôles à la fois : elle estime l'incertitude et définit la préférence lors du choix des prochains exemples d'entraînement
• Ce couplage assure l'interprétabilité : on voit pourquoi un exemple donné a été retenu ou reporté
• La méthode a été testée sur plusieurs jeux de données dans des tâches de classification
• Le code source est disponible publiquement sur GitHub (dépôt treelife979/UASPL)

Ce que montrent les expériences

Lors des tests sur plusieurs jeux de données, UASPL a devancé d'autres méthodes de self-paced learning sur trois plans à la fois : la précision de la classification, l'interprétabilité du processus de sélection des échantillons et la generality, c'est-à-dire la capacité à rester efficace lors d'un transfert vers d'autres tâches et jeux de données, et pas seulement dans la configuration pour laquelle la méthode avait été réglée à l'origine.

Ce que cela signifie

Pour les équipes qui entraînent des modèles sur des données réelles, imparfaitement annotées, UASPL propose un principe de curriculum learning plus prudent : non pas « le simple d'abord », mais « le fiable d'abord ». Cela peut réduire le risque que le modèle fige des schémas erronés dès les premières étapes de l'entraînement à cause d'exemples bruités mais formellement « faciles ». C'est particulièrement pertinent pour les tâches où les données sont collectées automatiquement et ne passent pas par une vérification manuelle, comme l'annotation d'images médicales, la modération de contenus d'utilisateurs ou la collecte de données de capteurs issus de systèmes industriels.

Le fait que l'article décrive la méthode comme une « fonction de perte générale », extensible à différentes variantes du self-paced learning, compte sur le plan pratique : les équipes peuvent ne pas avoir à réécrire tout le pipeline d'entraînement de zéro, mais adapter un schéma SPL existant en y ajoutant une estimation de l'incertitude. Le code ouvert sur GitHub abaisse le seuil d'entrée pour tester la méthode sur ses propres jeux de données. C'est d'autant plus précieux pour des sujets de recherche très spécialisés, où il n'existe pas encore d'implémentations industrielles toutes prêtes.