Как объяснить непрерывное обучение нейросетей: attention rollout и Grad-CAM на временных рядах

Um grupo de pesquisadores publicou na arXiv, em julho de 2026, um trabalho no qual métodos de IA explicável — attention rollout e Grad-CAM — foram aplicados ao aprendizado contínuo (continual learning) de redes neurais para previsão de séries temporais, testando as arquiteturas PatchMixer, PatchTST e DLinear em dados reais de monitoramento do nível de águas subterrâneas.

O que o trabalho investigou

Os autores do estudo se concentraram na explicabilidade (explainability) como ferramenta que ajuda a entender o que acontece dentro do modelo quando ele é retreinado com um fluxo de novos dados. A previsão de séries temporais em condições reais — por exemplo, o monitoramento ambiental — é complicada pela não estacionariedade: a estatística dos dados muda com o tempo e surgem mudanças abruptas de regime. Para que o modelo não "esqueça" o antigo ao aprender o novo, aplica-se a estratégia Experience Replay — a repetição de exemplos passados selecionados. Os autores reforçaram a seleção desses exemplos com um mecanismo baseado em attention: o próprio modelo "sugere" quais fragmentos do histórico são mais importantes de preservar para a adaptação.

• Tipo de tarefa — aprendizado contínuo (continual learning) para previsão de séries temporais
• Arquiteturas — PatchMixer, PatchTST, DLinear
• Estratégia de adaptação — Experience Replay com seleção de exemplos baseada em attention
• Métodos de explicabilidade — attention rollout e Grad-CAM (atribuição por gradientes)
• Dados — séries piezométricas reais (nível de águas subterrâneas) com mudanças de regime

Por que a explicabilidade importa aqui

Neste trabalho, a explicabilidade não é um enfeite, mas uma forma de enxergar a lógica da seleção de dados e da adaptação do modelo. Modelos de deep learning já mostram resultados sólidos em séries temporais há tempos, mas sua adoção no monitoramento real é freada justamente pela opacidade e pela sensibilidade à dinâmica não estacionária, observam os autores. Os métodos attention rollout e Grad-CAM permitem ver em quais trechos da série de entrada o modelo se apoia ao prever e quais exemplos ele seleciona para o retreinamento.

Para a prática, isso é essencial: se fica visível quais dados e características influenciam a previsão, o engenheiro pode gerenciar o retreinamento de forma direcionada, em vez de confiar no modelo como uma caixa-preta.

O que os experimentos mostraram

Experimentos com séries piezométricas mostraram que a análise do comportamento do modelo e do mecanismo de seleção de exemplos fornece informações valiosas sobre a dinâmica do aprendizado contínuo. A observação-chave: os mapas de atribuição de características não são estáticos — eles evoluem ao longo do tempo conforme os regimes nos dados mudam. O attention rollout rastreia como a atenção se propaga pelas camadas do modelo, enquanto o Grad-CAM, por meio de gradientes, mostra a contribuição de trechos específicos da série — juntos, eles oferecem duas projeções independentes da mesma lógica de previsão. Segundo os autores, isso abre caminho para usar a explicabilidade em uma seleção de dados e estratégias de adaptação mais conscientes em cenários não estacionários.

"Nossos resultados destacam os desafios e as oportunidades do uso da

explicabilidade para entender o comportamento do aprendizado contínuo", diz o resumo do trabalho na arXiv.

O que isso significa

O trabalho é mais metodológico do que aplicado: os autores não apresentam métricas de precisão concretas no resumo. Mas a direção é importante — a explicabilidade está deixando de ser uma verificação posterior para se tornar uma ferramenta de trabalho para gerenciar o retreinamento de modelos em dados vivos e em mudança. Um valor à parte é a ligação entre explicabilidade e estratégia de seleção de dados: a atribuição indica quais exemplos históricos devolver ao treinamento quando o regime muda. Para o monitoramento ambiental e outros cenários com deriva de dados, isso é um passo em direção a previsões mais confiáveis e transparentes.

Perguntas frequentes

Quais modelos foram testados no estudo?

Três arquiteturas de redes neurais para previsão de séries temporais: PatchMixer, PatchTST e DLinear. Elas foram complementadas com um mecanismo de seleção de exemplos baseado em attention para apoiar a adaptação do modelo ao longo do tempo.

Com quais dados a abordagem foi testada?

Com séries temporais piezométricas reais — dados de monitoramento do nível de águas subterrâneas com padrões heterogêneos e mudanças de regime (regime shifts), em que a estatística do sinal muda com o tempo.