1,8% des requêtes sans cache ont coûté 15% de la facture Opus 5.5 de SemiAnalysis
SemiAnalysis a passé en revue sa facture Opus 5.5 : seules 1,8% des requêtes sont passées sans cache. Dans ce cas, le modèle relit tout le contexte au prix fort, et ces requêtes ont pourtant absorbé environ 15% des dépenses. Elles viennent le plus souvent de nouveaux sous-agents, qui démarrent sans cache, comme un nouvel arrivant à qui l'on doit raconter tout le projet. Par ailleurs, 12% des sessions reprises après une inactivité de plus d'une heure ont payé environ $3 pour la reprise. Pour les équipes qui font tourner des agents, la conclusion est simple : il faut mesurer séparément la part des requêtes sans cache.
Traité par IA depuis X: @SemiAnalysis_ ; édité par Hamidun News
La société d'analyse SemiAnalysis, spécialisée dans l'infrastructure d'IA, a examiné sa propre facture pour le modèle Opus 5.5 et y a trouvé un déséquilibre. Seules 1,8% des requêtes sont passées « sans cache » : le fournisseur a dû retraiter l'intégralité du contexte, au lieu de réutiliser la partie déjà lue à tarif réduit. Pourtant, cette part minuscule a généré environ 15% de toutes les dépenses sur Opus 5.5. Autrement dit, une requête sur cinquante-cinq environ a coûté près d'un septième de la facture. Si vous exploitez des agents de code, il est probable que la même chose se produise chez vous, simplement vous ne l'avez pas encore mesurée.
Une « requête sans cache », concrètement
Le cache de prompt fonctionne comme un marque-page dans un livre. Prenons un agent qui travaille sur un dépôt : le début de la requête contient les instructions, les fichiers du projet et l'historique des commandes. Si ce début est identique à celui de la requête précédente, le fournisseur ne le recalcule pas et facture cette partie moins cher. Sans marque-page, tout le contexte accumulé est facturé de nouveau. Dans les tâches agentiques, le contexte est souvent volumineux : chaque défaut de cache pèse donc nettement sur le budget.
D'où viennent ces défauts de cache coûteux
SemiAnalysis avance deux causes.
La première : les nouveaux sous-agents. Selon les analystes, la plupart des requêtes sans cache provenaient de sous-agents qui démarraient de zéro. L'agent principal engendre un assistant, qui doit tout recevoir de nouveau en entrée, comme un nouvel employé à qui l'on explique tout le projet dès son premier jour. Beaucoup de sous-agents de courte durée, ce sont autant de « premiers jours », et chacun se paie.
La seconde : les temps d'inactivité. D'après SemiAnalysis, 12% des sessions ont repris après une pause de plus d'une heure et ont payé environ $3 pour relire le contexte. Un développeur part déjeuner, revient et poursuit dans la même session. Pour lui, c'est la même tâche ; pour la facture, c'est presque un nouveau lancement, car le cache enregistré n'est plus valide à ce moment-là.
Une réserve : $3 par reprise reste une somme modeste. Le problème tient à l'échelle, quand ces reprises concernent une session sur dix chez de nombreux utilisateurs. De plus, ces chiffres portent sur une seule entreprise et un seul modèle : les proportions seront donc différentes dans votre équipe.
Que faire en pratique
Premièrement, mesurez séparément la part des requêtes sans cache, et pas seulement la consommation totale de tokens. La moyenne masque les défauts de cache rares mais coûteux : 1,8% du trafic est presque invisible sur un graphique, alors qu'il représente environ 15% des dépenses.
Deuxièmement, identifiez qui les génère. Mettez en place dans votre monitoring une liste des sessions et des sous-agents qui comptent le plus de requêtes sans cache. Si ce sont surtout les sous-agents, vérifiez que chacun est vraiment nécessaire, ou si la tâche peut être exécutée dans un contexte déjà actif.
Troisièmement, tenez compte des pauses. Si les utilisateurs reviennent souvent dans une session après une longue interruption, il est judicieux de condenser l'historique en un court résumé avant la reprise, plutôt que de renvoyer tout l'ancien contexte.
Quatrièmement, uniformisez le début des prompts des sous-agents. Mieux vaut conserver l'instruction commune et le contexte du projet dans un seul et même bloc, toujours dans le même ordre. C'est une règle générale du fonctionnement du cache, et non une conclusion tirée du post de SemiAnalysis : toute modification au début de la requête, par exemple un horodatage, peut rendre la requête « froide ».
La principale leçon pour les fondateurs et les product managers : le coût d'un agent ne dépend pas seulement du prix du token, mais aussi de la fréquence à laquelle vous payez de nouveau pour le même contexte. C'est un paramètre d'architecture que l'on peut piloter, au même titre que le choix du modèle. Le post de SemiAnalysis fait partie d'une série (3/4), mais cette partie suffit déjà à montrer par où commencer l'optimisation : la part des requêtes sans cache et les sous-agents qui la produisent.
- 18 nov. 2026GPT 6.2 Sol Ultrafast débite 150 tokens/s et consomme 6 fois plus de limites
- 18 nov. 2026Test Visa : 22 modèles d'IA réussissent 57% des achats, mais paient quand même dans 54% des échecs
- 18 nov. 202611 dépôts open source forment une chaîne de la recherche à la voix off pour Claude Code
- 18 nov. 2026Mellum de JetBrains en local dans l'IDE : 5 sur 10 sur un MacBook M3 Pro
Questions clés sur cet article
Que sait-on sur Une « requête sans cache », concrètement ?
Le cache de prompt fonctionne comme un marque-page dans un livre. Prenons un agent qui travaille sur un dépôt : le début de la requête contient les instructions, les fichiers du projet et l'historique des commandes. Si ce début est identique à celui de la requête précédente, le fournisseur ne le recalcule pas et facture cette partie moins cher. Sans marque-page, tout le contexte accumulé est facturé de nouveau.
Que sait-on sur D'où viennent ces défauts de cache coûteux ?
SemiAnalysis avance deux causes. La première : les nouveaux sous-agents. Selon les analystes, la plupart des requêtes sans cache provenaient de sous-agents qui démarraient de zéro. L'agent principal engendre un assistant, qui doit tout recevoir de nouveau en entrée, comme un nouvel employé à qui l'on explique tout le projet dès son premier jour. Beaucoup de sous-agents de courte durée, ce sont autant de « premiers jours », et chacun se paie. La seconde : les temps d'inactivité.
Que sait-on sur Que faire en pratique ?
Premièrement, mesurez séparément la part des requêtes sans cache, et pas seulement la consommation totale de tokens. La moyenne masque les défauts de cache rares mais coûteux : 1,8% du trafic est presque invisible sur un graphique, alors qu'il représente environ 15% des dépenses. Deuxièmement, identifiez qui les génère. Mettez en place dans votre monitoring une liste des sessions et des sous-agents qui comptent le plus de requêtes sans cache.
Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews
Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.