Eternis-Forecaster 8B : les sondes d'activations battent les chaînes de raisonnement et économisent jusqu'à 47 % de tokens

Le 10 juillet 2026, des chercheurs ont publié sur arXiv un travail montrant que les prévisions du modèle de langage Eternis-Forecaster 8B sont « figées » avant même le début du raisonnement chain-of-thought. Les sondes d'activations intermédiaires calibrent en outre mieux la confiance du modèle et prédisent les changements de son comportement dans 84 % des cas, même lorsque la chaîne de raisonnement textuelle les masque.

Ce qu'ont découvert les chercheurs

L'équipe a travaillé avec Eternis-Forecaster 8B sur le benchmark OpenForesight, une plateforme spécialisée dans la prévision probabiliste. Des sondes avec representation pooling ont été entraînées sur les activations intermédiaires du modèle ; elles ont montré une calibration nettement meilleure que la confiance intégrée du modèle lui-même. Les résultats se sont reproduits sur GLM-4.7-Flash et GLM-4.5-Air, ce qui confirme que l'approche est transférable.

Points clés :

• Modèles testés : Eternis-Forecaster 8B, GLM-4.7-Flash, GLM-4.5-Air
• Benchmark : OpenForesight (prévision probabiliste)
• Précision de prédiction du sens des changements : 84 % des cas
• Économie de tokens lors du routage : 30–47 % sans perte de précision
• Méthode : representation pooling sur les couches intermédiaires du transformer

Pourquoi il ne faut pas se fier aveuglément aux chaînes de raisonnement

Les auteurs ont vérifié la « fidélité » du CoT avec deux méthodes : retirer du prompt des sources influentes et y injecter des informations distractives. Le schéma s'est révélé stable : supprimer une source clé modifiait souvent la prévision finale, mais le raisonnement textuel restait intact. Le modèle ne mentionnait pas la source disparue et se comportait comme si elle n'avait jamais figuré dans le contexte.

Les sondes se sont comportées de façon radicalement différente. Leurs activations suivaient de manière fiable les changements de comportement et prédisaient le sens des variations dans 84 % des cas, y compris lorsque le CoT dissimulait entièrement la perturbation. Cela fait des sondes d'activations un outil d'audit nettement plus fiable que le CoT lui-même.

«

Les représentations internes révèlent ce que le modèle traite réellement, et non ce qu'il décide de communiquer » : telle est la conclusion que les auteurs tirent de l'ensemble de leurs expériences.

La prévision est figée avant le raisonnement

Le résultat le plus important en pratique : les réponses du modèle sont déjà « figées » avant le lancement de la chaîne de raisonnement. Une seule passe préliminaire, sans génération de CoT, suffit à retrouver avec précision à la fois la réponse finale et le niveau de confiance du modèle.

Cela ouvre une application directe : un routage intelligent des requêtes fondé sur la dispersion de la distribution prédéfinie des réponses. Lorsque la réponse est déjà évidente au niveau des activations, on peut sauter la coûteuse génération de raisonnement : l'économie va de 30 % à 47 % des tokens, sans perte de précision sur les prévisions finales.

Ce que cela signifie

Les sondes de représentations internes donnent un accès direct à ce que le modèle traite réellement, sans passer par le raisonnement textuel, qui n'est pas tenu de refléter les vraies causes de la réponse. Pour les systèmes de prévision, cela représente une boîte à outils pratique : calibration de la confiance, audit de la fidélité du CoT et routage efficace des requêtes au sein d'une seule méthode. Les auteurs jugent l'approche applicable non seulement aux modèles de prévision, mais à une classe plus large de modèles de raisonnement.

Alors que les LLM servent de plus en plus à la prise de décision, c'est une étape importante vers des systèmes dont les croyances internes se mesurent indépendamment de ce que le modèle dit.

Questions fréquentes

Que sont les sondes d'activations et pourquoi sont-elles plus précises que le

CoT ?

Les sondes d'activations sont de petits classifieurs entraînés sur les états intermédiaires d'un réseau de neurones. Elles lisent directement le « signal interne » du modèle, sans passer par la sortie textuelle. Dans les expériences de ce travail, les sondes avec representation pooling ont prédit la prévision finale d'Eternis-Forecaster 8B et le sens de ses changements plus précisément que le raisonnement CoT textuel.

La méthode s'applique-t-elle à d'autres modèles et tâches ?

Les auteurs ont reproduit l'amélioration de la calibration sur GLM-4.7-Flash et GLM-4.5-Air, confirmant la transférabilité de l'approche. Le benchmark principal, OpenForesight, est spécifique à la prévision probabiliste ; son applicabilité à d'autres tâches et domaines nécessite une vérification distincte.