TriAgent : un comité de petits modèles remplace un LLM coûteux et économise 9,3 M$ par an

En juillet 2026, un groupe de chercheurs a publié sur arXiv un article consacré à TriAgent, un système multi-agents d'analyse du sentiment financier qui, à l'échelle de 10 M d'utilisateurs, économise 9,3 M$ par an par rapport à une solution de référence reposant sur GPT-4o-mini.

Comment fonctionne le comité TriAgent

TriAgent répartit les requêtes entre trois niveaux de « lecture » du texte, chacun plus coûteux que le précédent. Les niveaux économiques absorbent la majorité des cas simples, tandis que le LLM coûteux n'est sollicité que sur les cas litigieux. L'idée repose sur un piège structurel de coûts : la plupart des requêtes se classent de façon triviale, mais le reasoner cloud les traite toutes, et la facture augmente linéairement avec le nombre d'utilisateurs.

• Le lexique VADER : analyse au niveau du mot
• Le transformer FinBERT : analyse au niveau de la phrase
• Qwen2.5 (de 0.5B à 14B, 4 bits) comme reasoner sur plusieurs phrases, avec des vérifications croisées par Mistral-7B et Phi-3.5-mini
• L'indice de divergence sémantique (SDI) mesure l'écart entre les niveaux et décide à qui confier la requête
• Économie : 9,3 M$ par an pour 10 M d'utilisateurs, par rapport à GPT-4o-mini

«

La plupart des requêtes se classent de façon triviale, pourtant les reasoners cloud coûteux les traitent toutes » — extrait du résumé de l'article sur arXiv.

Qu'est-ce que le « critic plateau »

La principale conclusion de l'étude est le « plateau du critic » : lorsqu'on réaffecte des LLM au rôle de critic sur les sorties d'agents plus petits, le score F1 atteint un plateau autour de 0.87 pour les modèles Qwen de 1.5B à 7B (les intervalles de confiance se recoupent). À titre de comparaison, un vote de trois « personas » de même taille ne donne qu'un F1=0.66.

Selon les auteurs, cet écart s'explique par la diversité induite par des granularités d'analyse différentes : les trois niveaux « voient » le texte de façon distincte, ce qui s'avère plus utile que trois modèles identiques auxquels on attribue des rôles différents.

Trois résultats annexes du SDI

À partir du même signal SDI, les auteurs tirent trois conséquences. Un lexique de consensus partagé, construit sur un sentence-BERT multilingue, répond à 95% des requêtes en chinois à partir du cache anglais avec un F1=0.99, c'est-à-dire qu'il transfère l'annotation d'une langue à l'autre presque sans coût supplémentaire.

Le SDI fonctionne aussi comme détecteur a posteriori des hallucinations des LLM, avec une AUC=0.90. Enfin, lors d'un backtest sur 20 tickers, la stratégie fondée sur le SDI a produit le meilleur rendement ajusté du risque : un Sharpe de 3.50, contre 1.36 pour la stratégie « toujours FinBERT » et 0.11 pour « toujours le LLM ».

Ce que cela signifie

TriAgent propose une recette pragmatique : ne pas faire passer chaque requête par un modèle coûteux, mais la router selon sa complexité. Pour une application en production avec des millions d'utilisateurs, c'est la différence entre une facture qui croît linéairement et des millions de dollars économisés, sans perte de qualité. Les auteurs ont publié en accès libre le code, les lexiques et le lexique de consensus.

Questions fréquentes

Combien TriAgent permet-il d'économiser ?

Selon les calculs des auteurs, pour 10 M d'utilisateurs, le système économise 9,3 M$ par an par rapport à une base de référence sur GPT-4o-mini, car le LLM coûteux n'est sollicité que sur les requêtes litigieuses.

Qu'est-ce que l'indice SDI ?

Le Semantic Divergence Index (SDI) est une métrique de divergence deux à deux entre les trois niveaux d'analyse (mot, phrase, plusieurs phrases). Il sert à router les requêtes et fait aussi office de détecteur d'hallucinations des LLM, avec une AUC=0.90.

Quels modèles TriAgent utilise-t-il ?

Le lexique VADER, le transformer FinBERT et le reasoner Qwen2.5 (0.5B–14B en 4 bits), avec des vérifications croisées par Mistral-7B et Phi-3.5-mini.