AWS montre comment donner accès à Claude aux développeurs avec une clé personnelle et un plafond de 250 $ sur 7 jours
Si toute l'équipe utilise Claude via Amazon Bedrock, les équipes financières ne voient pas qui a dépensé combien. AWS conseille de placer entre l'éditeur de code et Bedrock un proxy LiteLLM doté d'une interface compatible OpenAI : chaque développeur dispose alors de sa propre clé. Dans l'exemple, une clé est plafonnée à 250 $ sur une fenêtre glissante de 7 jours. Les dépenses liées aux assistants IA deviennent ainsi visibles par personne, et non plus sous forme d'une somme unique sur la facture.
Traité par IA depuis AWS Machine Learning Blog ; édité par Hamidun News
Imaginez une entreprise où les développeurs ont connecté Claude Code, Continue ou Cursor aux modèles Claude via Amazon Bedrock, le service cloud d'AWS proposant des modèles de langage prêts à l'emploi. Un mois plus tard, une facture unique arrive pour l'ensemble des tokens, et personne ne peut dire quelle équipe ou quelle personne les a consommés. Les ingénieurs plateforme doivent voir les latences et les erreurs, les financiers doivent répartir les coûts par projet, et les équipes sécurité ont besoin de règles d'accès uniformes.
AWS a publié une analyse montrant comment couvrir ces trois besoins avec une seule passerelle : il s'agit d'un serveur intermédiaire placé entre les outils des développeurs et Bedrock. L'exemple d'un plafond de 250 $ par clé sur une fenêtre glissante de 7 jours est pédagogique dans l'article, et les valeurs de la configuration peuvent être modifiées.
Comment fonctionne la passerelle
Le cœur du dispositif est le proxy LiteLLM, exécuté sous forme de conteneur sur AWS Fargate (service d'exécution de conteneurs sans gestion de serveurs) et se faisant passer pour l'API d'OpenAI. Le développeur renseigne dans son outil une seule adresse et sa clé personnelle. Il ne communique jamais directement avec Bedrock. Le nom du modèle dans les paramètres, par exemple claude-sonnet-4-20250514, est converti par LiteLLM en référence vers le profil correspondant dans Bedrock, puis LiteLLM effectue l'appel grâce au rôle IAM de la tâche Fargate.
Autour du proxy, on retrouve un ensemble de services classiques :
- PostgreSQL sur Amazon RDS stocke les clés et le suivi des dépenses.
- ElastiCache for Valkey met en cache les réponses et synchronise les limites de requêtes entre plusieurs instances de la passerelle.
- Secrets Manager conserve la clé maîtresse et le mot de passe de la base, qui ne doivent pas figurer dans config.yaml.
- Langfuse, en open source, affiche les prompts et les latences et aide à analyser les incidents.
- CloudWatch collecte les métriques de requêtes par minute (RPM) et de tokens par minute (TPM), ainsi que les alertes d'approche du quota.
Pour chaque modèle, on crée un Application Inference Profile distinct, c'est-à-dire un point d'entrée nommé vers Bedrock. Il offre un quota isolé par modèle et des droits d'accès fins. Il sépare aussi la configuration de LiteLLM des versions des modèles dans Bedrock. Ainsi, un modèle peut être remplacé, un modèle de secours ajouté ou un fournisseur changé sans que les développeurs n'aient rien à modifier.
Les opérateurs définissent la politique de dépenses dans le portail, et les développeurs génèrent eux-mêmes leurs clés dans ce cadre. Le portail peut être relié au SSO de l'entreprise.
Plafonds et pièges
Le budget se définit dans la configuration : max_budget: 250 et budget_duration: 7d donnent 250 $ par clé sur une fenêtre glissante de 7 jours. Pour les modes longs avec extended thinking, l'exemple porte le délai d'attente à 900 secondes, soit 15 minutes.
Les auteurs énumèrent des pièges qui peuvent faire perdre des heures :
- Si le modèle est indiqué par un ARN brut de profil, LiteLLM ne le trouve pas dans sa table de tarifs et considère le coût comme nul. La dépense de la clé reste à zéro et les budgets ne se déclenchent jamais. Il faut renseigner manuellement les prix par token dans le bloc model_info.
- Pour un profil global, le champ copyFrom doit contenir l'ARN du profil système avec le préfixe global., et non l'ARN du modèle lui-même. Sinon, on obtient un profil limité à une seule région, sans routage entre régions.
- Dans la politique IAM, il ne suffit pas d'indiquer le profil. Il faut aussi les ARN du modèle de base dans la région, ainsi que ceux des autres régions via un masque. Faute de quoi, l'appel renvoie l'erreur « not authorized to perform bedrock:InvokeModel ».
AWS recommande l'inférence inter-régions globale lorsque les modèles choisis la prennent en charge et que la politique de l'entreprise autorise le traitement des requêtes dans différentes régions du monde. Bedrock dirige alors la requête vers une région disposant de capacité disponible, ce qui peut coûter moins cher que la variante géographique. Si les données doivent rester dans une seule zone géographique, il faut choisir un profil géographique, par exemple limité aux régions des États-Unis.
Limites
Selon la documentation, la version gratuite de LiteLLM AI Gateway convient à un pilote et est prévue pour cinq utilisateurs ; au-delà, une licence est nécessaire. Les clés virtuelles existent aussi dans la version gratuite, mais l'auto-génération de clés décrite dans l'article exige LiteLLM Enterprise. Cette édition inclut également le SSO, les journaux d'audit, la délégation des rôles d'administration et le support. Les Bedrock Guardrails, qui assurent le filtrage des contenus et la vérification de l'ancrage des réponses, ne sont pas abordés dans l'exemple, mais doivent être ajoutés pour une mise en production.
Conclusion pratique : si une entreprise compte plus de cinq développeurs utilisant des assistants IA, la passerelle apporte un contrôle des dépenses et une observabilité sans modifier chaque outil. Avant le lancement, il convient de vérifier trois points : les prix des tokens dans model_info, les droits IAM, et la destination des prompts dans Langfuse, car les traces contiennent les textes des requêtes et des réponses.
- 21 nov. 2026Un jeu sans IA a devancé 2782 projets au classement de popularité du AI jam d'Epic Games
- 21 nov. 2026Comment faire aller un agent IA jusqu'au bout : tests automatisés de 12 minutes et merge manuel
- 21 nov. 2026Le IPO record d'Anthropic n'a pas enrayé la vente des actions IA : SoftBank a chuté de 14,5 %
- 21 nov. 2026Rumeur : Telegram prépare pour Mac un agent IA nommé Dictator, capable de lire et de gérer vos conversations
Questions clés sur cet article
Comment fonctionne la passerelle?
Le cœur du dispositif est le proxy LiteLLM, exécuté sous forme de conteneur sur AWS Fargate (service d'exécution de conteneurs sans gestion de serveurs) et se faisant passer pour l'API d'OpenAI. Le développeur renseigne dans son outil une seule adresse et sa clé personnelle. Il ne communique jamais directement avec Bedrock.
Que sait-on sur Plafonds et pièges ?
Le budget se définit dans la configuration : max_budget: 250 et budget_duration: 7d donnent 250 $ par clé sur une fenêtre glissante de 7 jours. Pour les modes longs avec extended thinking, l'exemple porte le délai d'attente à 900 secondes, soit 15 minutes. Les auteurs énumèrent des pièges qui peuvent faire perdre des heures : Si le modèle est indiqué par un ARN brut de profil, LiteLLM ne le trouve pas dans sa table de tarifs et considère le coût comme nul.
Que sait-on sur Limites ?
Selon la documentation, la version gratuite de LiteLLM AI Gateway convient à un pilote et est prévue pour cinq utilisateurs ; au-delà, une licence est nécessaire. Les clés virtuelles existent aussi dans la version gratuite, mais l'auto-génération de clés décrite dans l'article exige LiteLLM Enterprise. Cette édition inclut également le SSO, les journaux d'audit, la délégation des rôles d'administration et le support.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.