Comment un développeur a réduit la consommation de tokens de l'agent IA de 4,6 millions par jour : analyse de la fuite

Un développeur sur Habr a publié une analyse de la consommation réelle de tokens d'un agent d'IA et a découvert : la majeure partie du budget ne va pas au travail utile, mais aux processus de service en arrière-plan. En ajustant la configuration de ces tâches, il a réduit la consommation d'environ 4,6 millions de tokens par jour.

Où les tokens s'échappent réellement

L'intuition suggère que les tokens vont là où l'agent résout les tâches difficiles : écrire du code, analyser des sites web, gérer les navigateurs, analyser les journaux. Tâche complexe, le modèle réfléchit, les outils fonctionnent, le contexte grandit—cela semble logique.

Mais l'analyse des données réelles montre un tableau différent. Le principal consommateur du budget n'est pas les tâches complexes, mais les processus de service qui fonctionnent constamment en arrière-plan :

• Tâches cron — lancements réguliers indépendamment de la présence ou non d'un travail réel
• Diagnostics et demandes de statut — l'agent vérifie constamment son état, même quand rien ne se passe
• Listes d'outils excessives — des dizaines d'outils sont chargés en contexte « au cas où », bien que la plupart des tâches ne nécessitent que trois à cinq
• Vérifications de surveillance — des pings continus de disponibilité, y compris pendant les périodes d'inactivité totale

Le paradoxe est que l'agent exécute fidèlement son travail du point de vue du code : il effectue des vérifications, garde les outils à portée, exécute les planifications. Seulement, aucune de ces actions ne crée de valeur pour l'utilisateur—mais chacune s'ajoute à la facture. Le compteur de tokens tourne déjà avant même que l'utilisateur envoie une seule demande.

Pourquoi cette fuite est difficile à détecter

L'auteur décrit la situation avec une analogie parfaite : imaginez un artisan appelé pour remplacer une prise. Avant de prendre ses outils, il décharge de sa camionnette tout le marché de la construction, deux perceuses et une bétonnière—et facture tout le temps, y compris le déchargement.

Chaque demande individuelle en arrière-plan semble bon marché : un ping de diagnostic—des dizaines de tokens, une vérification cron une fois par minute—aussi peu. Mais à l'échelle d'une journée, avec plusieurs processus parallèles, l'effet cumulatif est énorme—comparable à des milliers d'interactions utilisateur réelles.

Le problème est aggravé par l'approche standard de la conception des systèmes d'agents : tout ce qui est potentiellement utile est chargé en contexte à l'avance, les outils sont attachés par groupes, la surveillance fonctionne continuellement. Au stade du développement et du débogage, c'est justifié. En production, cela devient un trou permanent et prévisible du budget. C'est pourquoi le problème ne saute pas aux yeux au premier coup d'œil des dépenses : le tableau de bord affiche la somme mais n'explique pas d'où vient l'essentiel.

Ce que l'audit des processus en arrière-plan apporte

Le développeur a identifié des points de fuite spécifiques, ajusté la configuration des tâches en arrière-plan et réduit la consommation d'environ 4,6 millions de tokens par jour. Important : ce résultat concerne uniquement les tâches en arrière-plan—sans aucune modification de la logique de travail principal de l'agent.

L'optimisation des agents d'IA ne commence pas par la qualité des prompts et n'est pas déterminée par le choix du modèle. Une part importante du budget réel est déterminée par les décisions architecturales—fréquence des lancements en arrière-plan, composition des outils en contexte, logique de surveillance. C'est ici que se trouvent souvent les opportunités les plus rapides et les plus mesurables pour réaliser des économies. Un tel audit est particulièrement important lors de la montée en charge : augmenter le nombre d'agents ou de tâches multiplie la consommation en arrière-plan même si la logique principale reste inchangée.

Ce que cela signifie

Avant d'optimiser la qualité des réponses d'un agent, vérifiez combien de tokens sont dépensés avant qu'il ne commence à travailler. L'audit des tâches en arrière-plan n'est pas une mesure unique—c'est une partie standard de la maintenance des systèmes d'agents en production.