Eternis-Forecaster 8B: las sondas de activaciones superan a las cadenas de razonamiento y ahorran hasta un 47 % de tokens

El 10 de julio de 2026, varios investigadores publicaron en arXiv un trabajo que muestra que los pronósticos del modelo de lenguaje Eternis-Forecaster 8B se "fijan" antes de que empiece el razonamiento chain-of-thought. Además, las sondas de activaciones intermedias calibran mejor la confianza del modelo y predicen cambios en su comportamiento en el 84 % de los casos, incluso cuando la cadena de razonamiento en texto los oculta.

Qué descubrieron los investigadores

El equipo trabajó con Eternis-Forecaster 8B en el benchmark OpenForesight, una plataforma especializada en pronóstico probabilístico. Entrenaron sondas con representation pooling sobre las activaciones intermedias del modelo, que mostraron una calibración sustancialmente mejor que la confianza integrada del propio modelo. Los resultados se reprodujeron en GLM-4.7-Flash y GLM-4.5-Air, lo que confirma que el enfoque es transferible.

Datos clave:

• Modelos probados: Eternis-Forecaster 8B, GLM-4.7-Flash, GLM-4.5-Air
• Benchmark: OpenForesight (pronóstico probabilístico)
• Precisión al predecir la dirección de los cambios: 84 % de los casos
• Ahorro de tokens al enrutar: 30–47 % sin pérdida de precisión
• Método: representation pooling en capas intermedias del transformer

Por qué no hay que fiarse ciegamente de las cadenas de razonamiento

Los autores comprobaron la "fidelidad" del CoT con dos métodos: eliminar del prompt fuentes influyentes e introducir información distractora. El patrón resultó estable: quitar una fuente clave solía cambiar el pronóstico final, pero el razonamiento en texto permanecía intacto. El modelo no mencionaba la fuente desaparecida y se comportaba como si nunca hubiera estado en el contexto.

Las sondas se comportaron de forma radicalmente distinta. Sus activaciones seguían de forma fiable los cambios de comportamiento y predecían la dirección de las variaciones en el 84 % de los casos, también cuando el CoT ocultaba por completo la perturbación. Eso convierte a las sondas de activaciones en una herramienta de auditoría bastante más fiable que el propio CoT.

«Las representaciones internas revelan lo que el modelo procesa

realmente, no lo que decide comunicar»: es la conclusión que extraen los autores del conjunto de sus experimentos.

El pronóstico se fija antes del razonamiento

El resultado de mayor interés práctico: las respuestas del modelo quedan "fijadas" antes de que arranque la cadena de razonamiento. Un único pase previo, sin generar CoT, permite recuperar con precisión tanto la respuesta final como el nivel de confianza del modelo en ella.

Esto abre una aplicación directa: enrutar las consultas de forma inteligente según la dispersión de la distribución de respuestas predefinida. Cuando la respuesta ya es evidente a nivel de activaciones, se puede omitir la costosa generación de razonamiento: el ahorro va del 30 % al 47 % de los tokens sin perder precisión en los pronósticos finales.

Qué significa

Las sondas de representaciones internas dan acceso directo a lo que el modelo procesa realmente, sin pasar por el razonamiento en texto, que no tiene por qué reflejar las causas reales de la respuesta. Para los sistemas de pronóstico, supone un conjunto de herramientas práctico: calibración de la confianza, auditoría de la fidelidad del CoT y enrutamiento eficiente de consultas en un solo método. Los autores consideran que el enfoque es aplicable no solo a los modelos de pronóstico, sino a una clase más amplia de modelos de razonamiento.

Con el uso creciente de los LLM en la toma de decisiones, es un paso importante hacia sistemas en los que las creencias internas del modelo se pueden medir con independencia de lo que diga.

Preguntas frecuentes

¿Qué son las sondas de activaciones y por qué son más precisas que el

CoT?

Las sondas de activaciones son pequeños clasificadores entrenados sobre los estados intermedios de una red neuronal. Leen la "señal interna" del modelo directamente, sin pasar por el texto de salida. En los experimentos de este trabajo, las sondas con representation pooling predijeron el pronóstico final de Eternis-Forecaster 8B y la dirección de sus cambios con más precisión que el razonamiento CoT en texto.

¿Es aplicable el método a otros modelos y tareas?

Los autores reprodujeron la mejora de calibración en GLM-4.7-Flash y GLM-4.5-Air, lo que confirma que el enfoque es transferible. El benchmark principal, OpenForesight, es específico del pronóstico probabilístico; su aplicabilidad a otras tareas y dominios requiere una verificación aparte.