Comment expliquer l'apprentissage continu des réseaux de neurones : attention rollout et Grad-CAM sur des séries temporelles

En juillet 2026, un groupe de chercheurs a publié sur arXiv une étude qui applique des méthodes d'IA explicable, attention rollout et Grad-CAM, à l'apprentissage continu (continual learning) de réseaux de neurones pour la prévision de séries temporelles. Les auteurs ont testé les architectures PatchMixer, PatchTST et DLinear sur des données réelles de suivi du niveau des nappes phréatiques.

Ce que l'étude a examiné

Les auteurs se sont concentrés sur l'explicabilité (explainability) comme outil pour comprendre ce qui se passe à l'intérieur d'un modèle lorsqu'il se réentraîne sur un flux de nouvelles données. En conditions réelles, par exemple pour la surveillance environnementale, la prévision de séries temporelles se heurte à la non-stationnarité : les statistiques des données évoluent avec le temps et des changements de régime brutaux apparaissent. Pour éviter que le modèle n'« oublie » l'ancien en apprenant le nouveau, on recourt à la stratégie d'Experience Replay, qui rejoue une sélection d'exemples passés. Les auteurs ont renforcé cette sélection par un mécanisme fondé sur l'attention : le modèle indique lui-même quels fragments de l'historique il vaut mieux conserver pour s'adapter.

• Type de tâche : apprentissage continu (continual learning) pour la prévision de séries temporelles
• Architectures : PatchMixer, PatchTST, DLinear
• Stratégie d'adaptation : Experience Replay avec sélection des exemples fondée sur l'attention
• Méthodes d'explicabilité : attention rollout et Grad-CAM (attribution par gradient)
• Données : séries piézométriques réelles (niveau des nappes phréatiques) avec changements de régime

Pourquoi l'explicabilité compte ici

Dans ce travail, l'explicabilité n'est pas un ornement : elle permet de voir la logique de sélection des données et d'adaptation du modèle. Les modèles de deep learning affichent depuis longtemps de bons résultats sur les séries temporelles, mais leur déploiement dans la surveillance réelle est freiné par leur opacité et leur sensibilité à la dynamique non stationnaire, soulignent les auteurs. Attention rollout et Grad-CAM montrent sur quelles portions de la série d'entrée le modèle s'appuie pour prévoir et quels exemples il retient pour se réentraîner.

En pratique, c'est déterminant : si l'on voit quelles données et quelles caractéristiques influencent la prévision, l'ingénieur peut piloter le réentraînement de façon ciblée, au lieu de traiter le modèle comme une boîte noire.

Ce que montrent les expériences

Les expériences sur les séries piézométriques indiquent que l'analyse du comportement du modèle et du mécanisme de sélection des exemples apporte des informations précieuses sur la dynamique de l'apprentissage continu. Observation clé : les cartes d'attribution des caractéristiques ne sont pas statiques, elles évoluent dans le temps au gré des changements de régime dans les données. Attention rollout suit la propagation de l'attention à travers les couches du modèle, tandis que Grad-CAM, via les gradients, montre la contribution de chaque portion de la série.

Ensemble, ils offrent deux projections indépendantes de la même logique de prévision. Selon les auteurs, cela ouvre la voie à une utilisation de l'explicabilité pour une sélection des données et des stratégies d'adaptation plus réfléchies dans les scénarios non stationnaires.

«

Nos résultats mettent en évidence les défis et les opportunités de l'utilisation de l'explicabilité pour comprendre le comportement de l'apprentissage continu », indique le résumé de l'étude sur arXiv.

Ce que cela signifie

Ce travail est plus méthodologique qu'appliqué : les auteurs ne donnent pas de métriques de précision précises dans le résumé. La direction n'en est pas moins importante : l'explicabilité cesse d'être une vérification a posteriori pour devenir un outil de pilotage du réentraînement de modèles sur des données vivantes et changeantes. L'association entre explicabilité et stratégie de sélection des données a une valeur propre : l'attribution indique quels exemples historiques réinjecter dans l'entraînement lors d'un changement de régime. Pour la surveillance environnementale et les autres scénarios sujets à la dérive des données, c'est un pas vers des prévisions plus fiables et plus transparentes.

Questions fréquentes

Quels modèles ont été testés dans l'étude ?

Trois architectures de réseaux de neurones pour la prévision de séries temporelles : PatchMixer, PatchTST et DLinear. Les auteurs les ont complétées par un mécanisme de sélection des exemples fondé sur l'attention, afin de soutenir l'adaptation du modèle dans le temps.

Sur quelles données l'approche a-t-elle été validée ?

Sur des séries temporelles piézométriques réelles, c'est-à-dire des données de suivi du niveau des nappes phréatiques, aux motifs hétérogènes et marquées par des changements de régime (regime shifts), où les statistiques du signal évoluent avec le temps.