JEV remplace la génération en plusieurs étapes par une décision typée unique

Au sein d'un agent d'IA, le grand modèle de langage ressemble souvent à un professeur que l'on aurait convoqué pour trier des demandes dans trois dossiers. Il reçoit l'historique de la tâche, relit le contexte et génère séquentiellement une réponse — alors que le système n'a besoin que d'un seul choix : lancer une recherche, vérifier une API ou transmettre la demande à un humain.

JEV, de TypeSafe AI, propose de séparer ces décisions courtes de la génération de texte. Le modèle reçoit l'état du système et un ensemble de questions décrites à l'avance, puis renvoie des réponses typées : une option choisie, une note sur une échelle ou une probabilité de « oui ». Pour le développeur, l'intérêt n'est pas une nouvelle magie, mais un principe d'architecture : le LLM coûteux se charge de l'analyse et du texte, tandis qu'un composant compact gère le routage.

À quoi cela ressemble dans la boucle d'un agent

Prenons le support d'une boutique en ligne. Un client écrit : « Stripe ne se connecte pas depuis trois jours, je perds des ventes ». L'agent doit déterminer l'urgence et l'étape suivante.

Un LLM classique peut recevoir un prompt système, la description des outils et un schéma JSON, puis générer un objet du type urgent accompagné d'une explication. JEV fonctionne autrement : le développeur transmet le contexte et des questions avec les types attendus. La primitive Choice sélectionne une option dans une liste, Score attribue une note et Noul renvoie la probabilité qu'une affirmation soit vraie. Plusieurs questions indépendantes portant sur un même contexte peuvent être traitées en une seule requête.

Le résultat s'intègre directement dans la logique applicative habituelle. Si la probabilité d'un incident critique dépasse le seuil fixé, la demande est transmise à un opérateur. Sinon, l'agent cherche la réponse dans la base de connaissances. Dans la zone intermédiaire, on peut appeler le grand LLM ou demander des informations complémentaires.

Un tel composant ne remplace pas tout l'agent. Il prend en charge un embranchement étroit au sein de la boucle « observation — décision — action », après lequel le travail se poursuit avec des API, du RAG, des outils ou un modèle génératif.

Où se situe le bénéfice pratique

Le principal cas d'usage concerne les opérations dont l'ensemble des issues est limité : classification de tickets, choix d'outil, évaluation de l'urgence, vérification de la nécessité d'une escalade. Dans ces cas, la génération libre est réellement superflue.

L'avantage repose sur trois éléments. Premièrement, la réponse a un type prédéfini : inutile d'extraire du JSON d'un texte. Deuxièmement, plusieurs évaluations peuvent être demandées ensemble. Troisièmement, le grand modèle n'est appelé que là où le raisonnement, la synthèse ou un texte de qualité sont nécessaires.

Il ne faut pas confondre JEV avec le RAG et le reranker. Le RAG est un schéma d'obtention de contexte externe. Le reranker trie les documents trouvés selon leur pertinence par rapport à la requête. JEV choisit une action ou évalue un état. Les trois composants peuvent coexister dans un même système : JEV décide de consulter la base de connaissances, le RAG trouve les fragments et le reranker retient les meilleurs.

Ce qu'il faut vérifier avant le déploiement

Une réponse typée n'est pas forcément une bonne réponse. Un chiffre de 92 % paraît convaincant, mais sans calibration sur vos données, il peut mal refléter la fréquence réelle des erreurs. Il est particulièrement risqué de lier automatiquement une telle note à des paiements, des blocages de comptes ou d'autres actions irréversibles.

Commencez par un mode fantôme : enregistrez les décisions de JEV sans les exécuter automatiquement. Comparez le modèle à des règles simples, à un LLM compact et à votre routeur actuel en termes de précision, de latence, de coût et de taux d'escalade. Mesurez séparément les erreurs sur les scénarios rares et coûteux.

Si un if/else résout la tâche de façon fiable, un réseau de neurones est inutile. Si les options sont peu nombreuses mais que les règles se multiplient et dépendent du sens du texte, un modèle spécialisé devient intéressant. La conclusion pratique est simple : JEV doit être envisagé non comme un « tueur de LLM », mais comme un routeur ciblé qui décharge le grand modèle des décisions routinières.