Cómo explicar el aprendizaje continuo de las redes neuronales: attention rollout y Grad-CAM en series temporales

En julio de 2026, un grupo de investigadores publicó en arXiv un trabajo en el que aplica métodos de IA explicable, attention rollout y Grad-CAM, al aprendizaje continuo (continual learning) de redes neuronales para la predicción de series temporales. El estudio prueba las arquitecturas PatchMixer, PatchTST y DLinear con datos reales de monitorización del nivel de aguas subterráneas.

Qué se estudió en el trabajo

Los autores se centraron en la explicabilidad (explainability) como herramienta para entender qué ocurre dentro de un modelo cuando se reentrena con un flujo de datos nuevos. La predicción de series temporales en condiciones reales, por ejemplo en la monitorización medioambiental, se complica por la no estacionariedad: las estadísticas de los datos cambian con el tiempo y aparecen cambios bruscos de régimen. Para que el modelo no «olvide» lo antiguo al aprender lo nuevo, se utiliza la estrategia Experience Replay, que consiste en reproducir de nuevo ejemplos pasados seleccionados. Los autores reforzaron la selección de esos ejemplos con un mecanismo basado en attention: es el propio modelo el que «indica» qué fragmentos del historial conviene conservar para la adaptación.

• Tipo de tarea: aprendizaje continuo (continual learning) para la predicción de series temporales
• Arquitecturas: PatchMixer, PatchTST, DLinear
• Estrategia de adaptación: Experience Replay con selección de ejemplos basada en attention
• Métodos de explicabilidad: attention rollout y Grad-CAM (atribución por gradientes)
• Datos: series piezométricas reales (nivel de aguas subterráneas) con cambios de régimen

Por qué importa aquí la explicabilidad

En este trabajo, la explicabilidad no es un adorno, sino una forma de ver la lógica con la que el modelo selecciona datos y se adapta. Los modelos de deep learning llevan tiempo mostrando buenos resultados con series temporales, pero su despliegue en monitorización real se ve frenado precisamente por su opacidad y su sensibilidad a la dinámica no estacionaria, señalan los autores. Attention rollout y Grad-CAM permiten ver en qué tramos de la serie de entrada se apoya el modelo al predecir y qué ejemplos elige para reentrenarse.

En la práctica, esto es fundamental: si se sabe qué datos y variables influyen en la predicción, el ingeniero puede dirigir el reentrenamiento de forma deliberada en lugar de fiarse del modelo como de una caja negra.

Qué mostraron los experimentos

Los experimentos con series piezométricas mostraron que analizar el comportamiento del modelo y del mecanismo de selección de ejemplos aporta información valiosa sobre la dinámica del aprendizaje continuo. La observación clave es que los mapas de atribución de las variables no son estáticos: evolucionan con el tiempo a medida que cambian los regímenes en los datos. Attention rollout rastrea cómo se propaga la atención a través de las capas del modelo, mientras que Grad-CAM muestra, mediante gradientes, la contribución de cada tramo de la serie.

Juntos ofrecen dos proyecciones independientes de una misma lógica de predicción. Según los autores, esto abre el camino a usar la explicabilidad para seleccionar datos y estrategias de adaptación de forma más consciente en escenarios no estacionarios.

«Nuestros resultados ponen de relieve los retos y las oportunidades de

usar la explicabilidad para entender el comportamiento del aprendizaje continuo», dice el resumen del trabajo en arXiv.

Qué significa

El trabajo es más metodológico que aplicado: en el resumen, los autores no aportan métricas concretas de precisión. Aun así, la línea de investigación es relevante: la explicabilidad deja de ser una comprobación a posteriori y se convierte en una herramienta de trabajo para gestionar el reentrenamiento de modelos con datos vivos y cambiantes. Tiene un valor añadido la combinación de explicabilidad y estrategia de selección de datos: la atribución indica qué ejemplos históricos conviene devolver al entrenamiento cuando cambia el régimen. Para la monitorización medioambiental y otros escenarios con deriva de datos, es un paso hacia predicciones más fiables y transparentes.

Preguntas frecuentes

¿Qué modelos se probaron en el estudio?

Tres arquitecturas de redes neuronales para la predicción de series temporales: PatchMixer, PatchTST y DLinear. Se complementaron con un mecanismo de selección de ejemplos basado en attention para favorecer la adaptación del modelo a lo largo del tiempo.

¿Con qué datos se validó el enfoque?

Con series temporales piezométricas reales: datos de monitorización del nivel de aguas subterráneas con patrones heterogéneos y cambios de régimen (regime shifts), en los que las estadísticas de la señal varían con el tiempo.