Como explicar o aprendizado contínuo de redes neurais: attention rollout e Grad-CAM em séries temporais

Em julho de 2026, um grupo de pesquisadores publicou no arXiv um trabalho que aplica métodos de IA explicável — attention rollout e Grad-CAM — ao aprendizado contínuo (continual learning) de redes neurais para previsão de séries temporais. A equipe testou as arquiteturas PatchMixer, PatchTST e DLinear em dados reais de monitoramento do nível de águas subterrâneas.

O que o trabalho estudou

Os autores focaram na explicabilidade (explainability) como ferramenta para entender o que acontece dentro do modelo quando ele se readapta a um fluxo de dados novos. Em condições reais, a previsão de séries temporais — no monitoramento ambiental, por exemplo — é complicada pela não estacionariedade: a estatística dos dados muda com o tempo e surgem mudanças bruscas de regime. Para que o modelo não «esqueça» o que aprendeu antes ao treinar com dados novos, usa-se a estratégia Experience Replay, que reapresenta exemplos selecionados do passado. Os autores reforçaram a seleção desses exemplos com um mecanismo baseado em attention: o próprio modelo «sugere» quais trechos do histórico são mais importantes para preservar na adaptação.

• Tipo de tarefa — aprendizado contínuo (continual learning) para previsão de séries temporais
• Arquiteturas — PatchMixer, PatchTST, DLinear
• Estratégia de adaptação — Experience Replay com seleção de exemplos baseada em attention
• Métodos de explicabilidade — attention rollout e Grad-CAM (atribuição por gradiente)
• Dados — séries piezométricas reais (nível de águas subterrâneas) com mudanças de regime

Por que a explicabilidade importa aqui

Neste trabalho, a explicabilidade não é um enfeite, e sim uma forma de enxergar a lógica por trás da seleção de dados e da adaptação do modelo. Os modelos de deep learning já mostram resultados fortes em séries temporais, mas sua adoção no monitoramento real esbarra justamente na opacidade e na sensibilidade à dinâmica não estacionária, observam os autores. Attention rollout e Grad-CAM permitem ver em quais trechos da série de entrada o modelo se apoia para prever e quais exemplos ele escolhe para o retreinamento. Na prática, isso é fundamental: se o engenheiro enxerga quais dados e características influenciam a previsão, ele pode conduzir o retreinamento de forma direcionada, em vez de tratar o modelo como uma caixa-preta.

O que os experimentos mostraram

Os experimentos com séries piezométricas indicaram que analisar o comportamento do modelo e o mecanismo de seleção de exemplos traz informações valiosas sobre a dinâmica do aprendizado contínuo. A observação central: os mapas de atribuição de características não são estáticos — eles evoluem no tempo conforme os regimes dos dados mudam. O attention rollout rastreia como a atenção se propaga pelas camadas do modelo, enquanto o Grad-CAM, por meio dos gradientes, mostra a contribuição de cada trecho da série. Juntos, eles oferecem duas projeções independentes da mesma lógica de previsão. Segundo os autores, isso abre caminho para usar a explicabilidade em uma seleção de dados e em estratégias de adaptação mais conscientes em cenários não estacionários.

«Nossos resultados destacam os desafios e as oportunidades de usar a

explicabilidade para entender o comportamento do aprendizado contínuo», diz o resumo do trabalho no arXiv.

O que isso significa

O trabalho é mais metodológico do que aplicado: no resumo, os autores não informam métricas concretas de acurácia. Ainda assim, a direção é relevante — a explicabilidade deixa de ser uma verificação feita só depois do fato e passa a ser uma ferramenta de trabalho para conduzir o retreinamento de modelos com dados vivos e em mudança. Outro ponto de valor é a ligação entre explicabilidade e estratégia de seleção de dados: a atribuição indica quais exemplos históricos devem voltar ao treinamento quando o regime muda. Para o monitoramento ambiental e outros cenários com deriva de dados, é um passo rumo a previsões mais confiáveis e transparentes.

Perguntas frequentes

Quais modelos foram testados no estudo?

Três arquiteturas de redes neurais para previsão de séries temporais: PatchMixer, PatchTST e DLinear. Os autores as complementaram com um mecanismo de seleção de exemplos baseado em attention, para apoiar a adaptação do modelo ao longo do tempo.

Em quais dados a abordagem foi testada?

Em séries temporais piezométricas reais — dados de monitoramento do nível de águas subterrâneas com padrões heterogêneos e mudanças de regime (regime shifts), nos quais a estatística do sinal muda com o tempo.