Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarAWS Machine Learning Blog→ original

La facture Amazon Bedrock peut baisser sans changer de modèle : Flex coûte deux fois moins cher que Standard

La facture Amazon Bedrock continue de grimper même après la réduction des prompts, car le coût est déterminé par les réglages de chaque requête. Pour les tâches en arrière-plan, comme les rapports nocturnes, le niveau Flex sur les modèles Nova 2 Lite coûte deux fois moins cher que le niveau Standard habituel. Passer le raisonnement de high à low a fait tomber la réponse d'un agent sur Claude Opus 5 de 2521 à 936 jetons. Mieux vaut modifier les réglages un par un, en vérifiant à chaque fois la facture et la qualité.

Traité par IA depuis AWS Machine Learning Blog ; édité par Hamidun News
La facture Amazon Bedrock peut baisser sans changer de modèle : Flex coûte deux fois moins cher que Standard
Source : AWS Machine Learning Blog. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireAWS Machine Learning Blog ↗
Rédacteur en chef
Chiffre clé #1Une limite de réponse à 155 jetons au lieu de 2048 a économisé 1893 jetons
Chiffre clé #2Le cache d'une heure devient rentable dès la 2e requête par heure lorsque les pauses dépassent 5 minutes
Chiffre clé #3Flex n'est pas pris en charge par Claude Sonnet 5 et Opus 5 : la requête échoue avec une erreur

Vous avez déjà raccourci vos prompts et supprimé les appels superflus, mais la facture pour l'utilisation des modèles dans Amazon Bedrock continue d'augmenter. L'équipe d'AWS montre qu'une partie de l'argent part dans quatre paramètres définis dans chaque requête : la durée de vie du cache (la partie mémorisée du prompt, qu'il n'est pas nécessaire de payer à plein tarif à chaque fois), le niveau tarifaire choisi, la quantité de « réflexion » du modèle avant la réponse et le plafond de longueur de la réponse. Il n'est pas nécessaire de changer de modèle ni le texte du prompt.

Prenons un exemple : un rapport nocturne n'a pas besoin de la rapidité d'un chat, et s'il passe au niveau Flex, il coûte deux fois moins cher que le niveau Standard habituel. Et si un agent consomme 936 jetons de réponse au lieu de 2521, sa facture baisse presque de trois fois. Ici, le jeton est l'unité de texte facturée.

Cache : une longue durée n'est pas toujours moins chère

Si les instructions système, les descriptions d'outils ou le contexte de référence se répètent, on peut les mettre en cache. Pour les modèles pris en charge par Anthropic, des durées de vie d'écriture de 5 minutes et d'une heure sont disponibles. Pour Claude Sonnet 5 et Opus 5, l'écriture sur 5 minutes coûte 1,25 fois le prix d'entrée habituel, l'écriture sur une heure 2 fois ce prix, et la lecture depuis le cache seulement 0,1 fois.

Le calcul est simple. Si les requêtes qui commencent de la même façon arrivent plus souvent qu'une fois toutes les 5 minutes, le cache court est rentable dès la première répétition. Si les pauses sont plus longues, il est réécrit à chaque requête au tarif de 1,25. Le cache d'une heure devient alors plus avantageux à partir de la deuxième requête dans l'heure. Pour que l'option « sans cache » devienne intéressante, il faut au moins trois requêtes par heure.

Il existe aussi des pièges. Toute modification du début du prompt, qu'il s'agisse de l'instruction système ou de la description d'un outil, provoque un défaut de cache et une nouvelle écriture. La vérification suit l'ordre « outils, système, messages », donc une modification au début invalide tout ce qui vient après.

Lors d'un test sur Sonnet 5 portant sur six appels, deux de ces modifications ont ramené à zéro les lectures du cache et provoqué une nouvelle écriture. Le cache est lié au compte et à la région, et non à vos clients ; dans une application servant de nombreux clients, on ajoute donc au début du prompt un hachage SHA-256 du client. Si vous avez besoin d'une isolation stricte des données, séparez les clients dans des comptes AWS distincts.

Tarif Flex et effort de raisonnement

Les tâches en arrière-plan, les campagnes d'évaluation et les synthèses nocturnes n'exigent pas la rapidité d'un chat interactif. Pour elles, certains modèles proposent le niveau Flex. AWS l'a testé sur Nova 2 Lite : 200 requêtes sur Standard et 200 sur Flex, envoyées par paires. Le nombre de jetons traités était identique, les 400 requêtes ont reçu le niveau demandé, et la différence de latence médiane est indiscernable du bruit. Le prix Flex publié dans la région us-west-2 est deux fois inférieur à celui de Standard, et la facture l'a confirmé.

Le support dépend de la version du modèle : Nova 2 Lite et gpt-oss-120b disposent de Flex, mais Claude Sonnet 5 et Opus 5 n'en disposent pas. Une requête adressée à un modèle non compatible échoue avec une erreur ValidationException et ne bascule pas silencieusement sur Standard. Si votre politique autorise une solution de repli, interceptez précisément cette erreur et relancez une seule fois avec le niveau default. Intercepter n'importe quelle ValidationException est une mauvaise idée, car elle est aussi déclenchée par des requêtes mal formées.

Le raisonnement coûte plus cher. Les jetons de « réflexion » sont facturés comme des jetons de sortie. Claude Sonnet 5 et Opus 5 fonctionnent par défaut avec une réflexion adaptative à un niveau élevé, même si le champ thinking n'est pas renseigné. Une application migrée depuis Sonnet 4.6 sans modification commencera à payer pour la réflexion, et maxTokens limite désormais la réflexion et le texte de la réponse ensemble.

AWS a fait tourner un agent avec appels d'outils sur Claude Opus 5 : trois tâches, huit exécutions par niveau d'effort. Les 24 exécutions à chaque niveau ont été correctes. La longueur médiane de la réponse passe de 936 jetons en low à 1484 en medium (+59 %), 2521 en high (+169 %), 2964 en xhigh et 3762 en max (+302 %). Pour la génération de code, l'écart entre low et high (676 contre 743 jetons) reste dans la dispersion entre exécutions. La réserve est honnête : aux limites des capacités du modèle, la qualité peut baisser à faible effort, il faut donc mesurer les jetons en même temps que la part de tâches réussies.

Plafond de réponse : une assurance, pas une protection

maxTokens limite la réponse que peut gonfler un mauvais prompt, une régression ou une boucle. Au démarrage d'une requête, Bedrock réserve dans le quota les jetons d'entrée plus maxTokens, donc un plafond trop élevé réduit le nombre de requêtes simultanées. Lors du test sur Sonnet 5, les réponses normales atteignaient 103 jetons et la limite a été fixée à 155.

Une requête volontairement bavarde a produit 2048 jetons avec un plafond de 2048, contre 155 seulement avec un plafond de 155, soit 1893 jetons économisés. Les deux réponses ont été tronquées : la limite fait donc économiser de l'argent, mais ne rend pas utile un mauvais prompt. Dans les chaînes à plusieurs étapes, une réponse tronquée peut faire échouer toute la suite.

En pratique, on choisit la limite à partir du P95 ou du P99 (la longueur sous laquelle tombent 95 % ou 99 % des réponses) pour chaque type de tâche, en ajoutant une marge pour la réflexion. Il faut surveiller les arrêts pour max_tokens et examiner la requête avant d'augmenter la limite. Le plafond ne protège pas contre les contenus nocifs : pour cela, il existe Bedrock Guardrails.

Que faire

La démarche est la même pour les quatre paramètres : vérifier la prise en charge par le modèle, modifier un seul réglage, mesurer les jetons ou le coût, puis contrôler la qualité. Si vous envoyez des requêtes vers différents modèles, établissez une fiche de capacités pour chaque version, chaque région et chaque API : durées de cache, niveaux tarifaires, niveaux de raisonnement, limites. La réponse de Bedrock indique le niveau tarifaire réellement appliqué et les compteurs de cache ; il faut les recouper avec CloudWatch et la facture.

Dossier

Questions clés sur cet article

Que sait-on sur Cache : une longue durée n'est pas toujours moins chère ?

Si les instructions système, les descriptions d'outils ou le contexte de référence se répètent, on peut les mettre en cache. Pour les modèles pris en charge par Anthropic, des durées de vie d'écriture de 5 minutes et d'une heure sont disponibles. Pour Claude Sonnet 5 et Opus 5, l'écriture sur 5 minutes coûte 1,25 fois le prix d'entrée habituel, l'écriture sur une heure 2 fois ce prix, et la lecture depuis le cache seulement 0,1 fois. Le calcul est simple.

Que sait-on sur Tarif Flex et effort de raisonnement ?

Les tâches en arrière-plan, les campagnes d'évaluation et les synthèses nocturnes n'exigent pas la rapidité d'un chat interactif. Pour elles, certains modèles proposent le niveau Flex. AWS l'a testé sur Nova 2 Lite : 200 requêtes sur Standard et 200 sur Flex, envoyées par paires. Le nombre de jetons traités était identique, les 400 requêtes ont reçu le niveau demandé, et la différence de latence médiane est indiscernable du bruit.

Que sait-on sur Plafond de réponse : une assurance, pas une protection ?

maxTokens limite la réponse que peut gonfler un mauvais prompt, une régression ou une boucle. Au démarrage d'une requête, Bedrock réserve dans le quota les jetons d'entrée plus maxTokens, donc un plafond trop élevé réduit le nombre de requêtes simultanées. Lors du test sur Sonnet 5, les réponses normales atteignaient 103 jetons et la limite a été fixée à 155. Une requête volontairement bavarde a produit 2048 jetons avec un plafond de 2048, contre 155 seulement avec un plafond de 155, soit 1893 jetons économisés.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…