AWS montre qu'un modèle au token deux fois plus cher revient 65 % moins cher par tâche
Le prix du token affiché dans la grille tarifaire de Bedrock ne correspond pas au prix réel du travail. Dans l'exemple d'AWS, un modèle dont le token coûte deux fois plus cher a traité l'e-mail d'un client pour 0,00145 $, tandis que le modèle « bon marché » l'a fait pour 0,0042 $ : l'écart atteint 65 %. Le modèle économique découpe le texte en 50 % de tokens supplémentaires, gonfle sa réponse par trois et effectue trois allers-retours au lieu d'un. Il faut donc comparer les modèles sur le coût d'une tâche avec vos propres données, et non sur la base du tarif affiché.
Traité par IA depuis AWS Machine Learning Blog ; édité par Hamidun News
Imaginez que vous choisissiez un modèle pour un agent qui lit les e-mails de clients, en extrait les données et répond au format JSON strict. Dans la grille tarifaire d'Amazon Bedrock, un modèle coûte 0,50 $ par million de tokens d'entrée, un autre 1,00 $. Le choix évident semble être le premier.
Pourtant, dans la deuxième partie de sa série sur les dépenses liées à Bedrock, l'équipe d'ingénierie d'AWS montre à travers un exemple que la réalité est inverse : le modèle dont le token est deux fois plus cher a accompli la tâche pour 0,00145 $, contre 0,0042 $ pour le modèle « bon marché ». Soit 65 % de moins. La raison tient au fait que la facturation porte non pas sur le token, mais sur le travail accompli : l'e-mail traité, les champs extraits d'une facture, la réponse envoyée à l'utilisateur.
La première partie de la série répondait à la question de savoir qui dépense et comment limiter les coûts. La deuxième traite les deux questions restantes : pourquoi un scénario donné est-il cher, et l'agent est-il rentable par rapport à des humains ?
Quatre postes de dépense cachés
AWS identifie quatre facteurs absents de la page des tarifs.
Le premier est le tokenizer. Chaque famille de modèles possède son propre vocabulaire, si bien qu'un même texte ou un même JSON ne se découpe pas en le même nombre de tokens. Si le modèle A est moins cher de 15 %, mais que vos données occupent 40 % de tokens en plus chez lui, c'est le modèle B qui revient le moins cher. Avec les alphabets non latins, l'écart est encore plus important : un texte peut se fragmenter deux à trois fois plus qu'en anglais.
Le deuxième est la verbosité. Les tokens de sortie coûtent généralement 3 à 5 fois plus cher que les tokens d'entrée. Si le modèle ignore la consigne « renvoie uniquement le JSON » et ajoute des explications de politesse, vous payez pour des mots vides.
Le troisième concerne les boucles de l'agent. Lors des appels d'outils, le modèle effectue plusieurs allers-retours, et chacun reçoit à nouveau l'historique complet de la conversation ainsi que les résultats des outils. Quatre passes avec un contexte qui grandit coûtent beaucoup plus cher qu'une seule.
Le quatrième est le raisonnement. Les tokens de « réflexion » sont facturés comme des tokens de sortie : 2 000 tokens de réflexion et 200 tokens de réponse donnent une facture de 2 200. Certains modèles masquent le raisonnement tout en le facturant. Le conseil d'AWS est de le désactiver tant que les tests ne montrent pas un écart de qualité qui justifie son prix.
Comment on arrive à 65 %
Dans l'exemple, l'agent lit un e-mail de 750 mots, extrait les entités, vérifie le statut du compte via une API et renvoie un JSON strict. Le modèle A (« bon marché ») consomme 1 500 tokens au premier tour contre 1 000 pour le modèle B, répond avec 450 tokens contre 150, et effectue trois allers-retours au lieu d'un : il se trompe dans le schéma de l'outil et corrige ses erreurs. Au total, cela fait 6 150 tokens d'entrée contre 1 000. Résultat : 0,0042 $ pour A et 0,00145 $ pour B. Les prix de l'exemple sont fictifs : il faut donc vérifier sur vos propres données.
Pour un usage réel, il faut aussi calculer le coût d'une tâche réussie. Si la tâche est relancée jusqu'à son succès, c'est le coût d'une tentative divisé par la part de réussites. Si, en cas d'échec, la tâche est transmise à un humain, il faut ajouter au coût de la tentative la part des échecs multipliée par le coût de l'escalade.
Pour mesurer, AWS recommande l'évaluation des modèles Bedrock pour la qualité, CountTokens pour comparer les tokenizers sans lancer de génération, et le bloc usage de la réponse du modèle. Attention : lorsque le cache est activé, le champ inputTokens ne compte que les tokens non mis en cache. Le volume d'entrée total est la somme de inputTokens, cacheReadInputTokens et cacheWriteInputTokens, mais ces trois catégories ne sont pas facturées au même tarif. Les points de cache finissent aussi par dériver : les outils évoluent et, trois mois plus tard, vous écrirez plus souvent dans le cache, d'où la nécessité de revoir régulièrement ces réglages.
Il existe quatre leviers de réduction. La mise en cache des prompts supprime le renvoi répété du contexte et offre le gain le plus important sur les parcours agentiques. Le routage envoie les requêtes simples vers un modèle moins cher de la même famille. Le schéma d'outil et la limite maxTokens contiennent la verbosité plus efficacement que des demandes formulées dans le texte du prompt. Le traitement par lots divise par deux le tarif des tâches massives à un seul tour, mais ne prend pas en charge l'appel d'outils.
Comment prouver qu'un agent est rentable
Sur ce point, AWS insiste sur la rigueur. Il faut d'abord décrire le processus humain : ce qui déclenche le travail, qui intervient, où se situent les transmissions entre rôles, et ce qui marque la fin. Ensuite, il faut mesurer une base de référence avant le lancement de l'agent : temps de traitement, file d'attente, taux de réouverture, coût par tâche. Une base reconstituée de mémoire ne doit pas être retenue, car elle flatte systématiquement l'agent.
Chaque exécution de l'agent doit ensuite être consignée comme une entrée d'expérience : identifiant, groupe (agent ou contrôle), version du prompt, nombre de répétitions et d'appels d'outils, tokens, résultat. Les minutes de vérification humaine et l'identifiant de l'événement de chiffre d'affaires sont particulièrement importants : sans les premières, l'agent paraît gratuit, et sans le second, il devient impossible de rattacher l'argent à son origine.
À partir de ces données, une seule requête SQL dans Athena permet d'obtenir trois chiffres : le coût d'un résultat réussi, le nombre de reprises par succès et les minutes de travail humain par succès. Le coût d'un appel avantage les agents qui tournent en boucle, alors que le coût d'un succès ne le fait pas.
Pour l'évaluation finale, AWS propose une comparaison avec un groupe de contrôle et un tableau de bord à cinq dimensions : adoption (zone verte au-delà de 70 % d'utilisateurs actifs), qualité (plus de 90 % de tâches sans reprise), efficacité, coût du succès et impact métier. Le vert signifie la mise à l'échelle, le jaune la révision, le rouge l'arrêt. Ces seuils constituent un point de départ, et non une norme. Les auteurs eux-mêmes reconnaissent que le tableau ne fonctionne que si l'équipe désactive réellement les agents classés en rouge.
Que faire concrètement
Aux développeurs : comparez les modèles sur votre trafic réel et comptez les tokens de tous les tours d'une tâche, et non ceux d'une seule requête. Aux chefs de produit et au FinOps : prévoyez dès le départ un groupe de contrôle et consignez le temps passé par les équipes. La limite de ce matériel tient au fait que les prix et les seuils sont illustratifs, et que certains leviers dépendent des fonctionnalités de Bedrock. La logique elle-même, qui consiste à compter le coût d'un succès plutôt que celui d'un appel, s'applique aussi à d'autres plateformes.
- 21 nov. 2026AG-UI 1.0 donne aux agents IA un langage commun pour dialoguer avec l'application : 31 types d'événements
- 21 nov. 2026OpenAI lance ChatGPT Wallet : des agents qui achètent sans jamais voir le numéro de carte
- 21 nov. 2026Les annonceurs américains ont dépensé 70,7 M$ en publicité sur ChatGPT en octobre, soit 127 % de plus qu'en avril
- 21 nov. 2026ONNX Runtime disparu de GitHub : Microsoft a masqué les dépôts après le piratage d'un paquet
Questions clés sur cet article
Que sait-on sur Quatre postes de dépense cachés ?
AWS identifie quatre facteurs absents de la page des tarifs. Le premier est le tokenizer. Chaque famille de modèles possède son propre vocabulaire, si bien qu'un même texte ou un même JSON ne se découpe pas en le même nombre de tokens. Si le modèle A est moins cher de 15 %, mais que vos données occupent 40 % de tokens en plus chez lui, c'est le modèle B qui revient le moins cher. Avec les alphabets non latins, l'écart est encore plus important : un texte peut se fragmenter deux à trois fois plus qu'en anglais.
Comment on arrive à 65 %?
Dans l'exemple, l'agent lit un e-mail de 750 mots, extrait les entités, vérifie le statut du compte via une API et renvoie un JSON strict. Le modèle A (« bon marché ») consomme 1 500 tokens au premier tour contre 1 000 pour le modèle B, répond avec 450 tokens contre 150, et effectue trois allers-retours au lieu d'un : il se trompe dans le schéma de l'outil et corrige ses erreurs. Au total, cela fait 6 150 tokens d'entrée contre 1 000. Résultat : 0,0042 $ pour A et 0,00145 $ pour B.
Comment prouver qu'un agent est rentable?
Sur ce point, AWS insiste sur la rigueur. Il faut d'abord décrire le processus humain : ce qui déclenche le travail, qui intervient, où se situent les transmissions entre rôles, et ce qui marque la fin. Ensuite, il faut mesurer une base de référence avant le lancement de l'agent : temps de traitement, file d'attente, taux de réouverture, coût par tâche. Une base reconstituée de mémoire ne doit pas être retenue, car elle flatte systématiquement l'agent.
Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews
Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.