Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarAWS Machine Learning Blog→ original

Accenture a réduit de 40 à 85% les dépenses de tokens de ses clients sur Bedrock

Le prix du token baisse, mais la facture d'IA augmente : les agents multiplient les appels au modèle là où un seul suffisait auparavant. Sur quatre projets clients, AWS et Accenture montrent comment réduire les dépenses de 40 à 85%, par exemple en cessant de payer à chaque requête le traitement de la même longue instruction. Un opérateur télécom a fait passer ses dépenses de $12 millions à $3,8 millions par an (−68%). Commencez par les tags de coûts, puis activez les leviers un par un en mesurant la qualité.

Traité par IA depuis AWS Machine Learning Blog ; édité par Hamidun News
Accenture a réduit de 40 à 85% les dépenses de tokens de ses clients sur Bedrock
Source : AWS Machine Learning Blog. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireAWS Machine Learning Blog ↗
Rédacteur en chef
Cache de promptsjusqu'à 90% de remise sur l'entrée répétitive
Chiffre clé #2Traitement par lots des tâches non urgentes : 50% moins cher
Cache sémantique dans le test AWS72,5% d'économies, 92,3% de précision

Le token devient moins cher, mais la facture d'IA continue de grimper. Des tokens bon marché attirent de nouveaux cas d'usage, et les agents effectuent plusieurs appels au modèle là où un seul suffisait auparavant. Prenons un chatbot de support doté d'une longue instruction système : elle part vers le modèle à chaque message, et vous payez à chaque fois pour la traiter de nouveau.

Multipliez cela par des milliers de conversations, et la consommation dépasse la baisse des prix. C'est précisément ce problème qu'AWS et le cabinet de conseil Accenture proposent de traiter sur la plateforme Amazon Bedrock. Ils décrivent six leviers d'économie.

Sur quatre projets clients (télécoms, assurance, secteur minier et un grand déploiement en entreprise), les dépenses de tokens ont baissé d'environ 40–85% là où elles ont pu être mesurées. Si vous payez des API de modèles, c'est une marche à suivre prête à l'emploi. Le secteur juge d'ailleurs le sujet important : la Linux Foundation a lancé la Tokenomics Foundation, consacrée aux standards ouverts de l'économie de l'IA.

D'abord comprendre qui dépense, et pour quoi

Sans étiquetage, la facture AWS affiche l'IA sur une seule ligne, sans ventilation par équipe, par agent ni par modèle. La première étape est donc le suivi des coûts. Pour chaque application, on crée un application inference profile distinct et on le marque avec des tags : équipe, centre de coûts, environnement. On active ensuite ces tags comme cost allocation tags dans la console AWS Billing and Cost Management.

Trois sources fournissent les données. Les rapports Cost and Usage Reports (CUR 2.0) indiquent combien d'argent a été dépensé par charge de travail et par équipe. CloudWatch comptabilise les appels et les latences. Le journal d'appels de Bedrock enregistre le modèle ainsi que le nombre de tokens d'entrée et de sortie de chaque requête.

Aux équipes produit, Accenture propose la métrique Cost per Business Transaction (CpBT) : le coût complet d'un résultat métier réussi. Elle englobe tous les appels au modèle, les nouvelles tentatives, les appels d'outils et les transmissions entre agents. Elle révèle ainsi le coût des tentatives ratées, que le tarif au token masque.

Six leviers en trois phases

Phase 1 : réglages uniquement. Le cache de prompts évite de payer le plein tarif pour les parties répétitives d'une requête : instructions système, descriptions d'outils, documents de référence. AWS promet jusqu'à 90% de remise sur l'entrée mise en cache pour les modèles pris en charge. Le traitement par lots (batch inference) exécute les tâches non urgentes de façon asynchrone et coûte 50% de moins que le mode standard pour plusieurs modèles. Il convient aux rapports de nuit, au traitement de documents et aux campagnes d'évaluation de la qualité.

Phase 2 : architecture. L'Intelligent prompt routing envoie les requêtes simples vers des modèles plus petits au sein d'une même famille et promet jusqu'à 30% d'économies sans perte de précision. Le coût du routage lui-même mérite d'être vérifié dans la grille tarifaire. Deuxième levier : l'optimisation du RAG (lorsque le modèle répond à partir de documents retrouvés), avec un découpage hiérarchique des documents, des filtres sur les métadonnées et un reranking, pour que seuls les bons passages parviennent au modèle. Accenture y ajoute deux techniques maison : chaque agent ne reçoit que son propre fragment de documents, et les documents sont compressés avant d'être envoyés au modèle.

Phase 3 : infrastructure et entraînement. Le cache sémantique renvoie une réponse enregistrée à une question similaire, même si la formulation diffère. Sur AWS, on le construit sur un magasin vectoriel de type Amazon ElastiCache placé devant le modèle.

Dans un test AWS sur 63 796 requêtes réelles adressées à un chatbot, avec un seuil de similarité de 90%, le cache a répondu dans 74,5% des cas, avec une précision de 92,3% et une économie de 72,5%. La distillation transfère les connaissances d'un grand modèle vers un petit. D'après AWS, ces modèles sont jusqu'à 500% plus rapides et jusqu'à 75% moins chers que l'original sur Bedrock, et la précision recule de moins de 2% sur des tâches comme le RAG.

Le gain se concrétise sur des tâches stables et à gros volume.

Les résultats chez les clients

Un grand client en entreprise faisait passer toutes ses requêtes par le modèle le plus puissant, sans cache ni traitement par lots. Accenture a activé simultanément la répartition des tâches entre modèles, le cache de prompts et le traitement par lots. Les dépenses mensuelles de tokens ont chuté de 85%. Environ 15% des tâches exigeaient malgré tout le modèle haut de gamme.

Un opérateur télécom dépensait $12 millions par an : ses agents généraient des requêtes sans limite, et tout partait vers le modèle le plus puissant. Après la mise en place d'un routage selon la complexité, d'un cache sémantique et d'une compression du contexte, les tokens d'entrée ont diminué de 70% et les dépenses annuelles sont tombées à $3,8 millions (−68%). La qualité a été vérifiée à l'aide des anciens tests internes de l'opérateur.

Un assureur a activé le cache de préfixe au niveau du modèle, une société minière le cache sémantique au niveau de l'application. Ensemble, ils ont économisé environ 40% sans changer de modèle et sans entraînement.

Les réserves comptent. Il s'agit d'un blog d'éditeur, les noms des clients sont masqués, et dans deux projets les leviers ont été introduits simultanément : la contribution de chacun reste donc inconnue. Les résultats dépendent de la charge de travail.

Que faire en pratique

Posez les tags, repérez les charges les plus coûteuses grâce à CUR 2.0 et au journal d'appels, activez le cache pour le trafic interactif et le traitement par lots pour l'asynchrone. Avant toute modification, relevez le coût et la qualité de référence, puis vérifiez-les sur un échantillon de réserve tiré du trafic réel, et non sur des données synthétiques. Changez un seul levier à la fois pour pouvoir revenir en arrière. Dans les secteurs réglementés, documentez les résultats des tests et le plan de retour arrière. Avec le routage et le cache sémantique, conservez les Guardrails sur chaque chemin et définissez une durée de vie du cache, afin que les utilisateurs ne reçoivent pas de réponses périmées.

Dossier

Questions clés sur cet article

Que sait-on sur D'abord comprendre qui dépense, et pour quoi ?

Sans étiquetage, la facture AWS affiche l'IA sur une seule ligne, sans ventilation par équipe, par agent ni par modèle. La première étape est donc le suivi des coûts. Pour chaque application, on crée un application inference profile distinct et on le marque avec des tags : équipe, centre de coûts, environnement. On active ensuite ces tags comme cost allocation tags dans la console AWS Billing and Cost Management. Trois sources fournissent les données.

Que sait-on sur Six leviers en trois phases ?

Phase 1 : réglages uniquement. Le cache de prompts évite de payer le plein tarif pour les parties répétitives d'une requête : instructions système, descriptions d'outils, documents de référence. AWS promet jusqu'à 90% de remise sur l'entrée mise en cache pour les modèles pris en charge. Le traitement par lots (batch inference) exécute les tâches non urgentes de façon asynchrone et coûte 50% de moins que le mode standard pour plusieurs modèles.

Que sait-on sur Les résultats chez les clients ?

Un grand client en entreprise faisait passer toutes ses requêtes par le modèle le plus puissant, sans cache ni traitement par lots. Accenture a activé simultanément la répartition des tâches entre modèles, le cache de prompts et le traitement par lots. Les dépenses mensuelles de tokens ont chuté de 85%. Environ 15% des tâches exigeaient malgré tout le modèle haut de gamme.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…