AWS mostrou como dar aos desenvolvedores acesso ao Claude com chave pessoal e limite de US$ 250 em 7 dias
Se a equipe inteira usa o Claude pelo Amazon Bedrock, o financeiro não consegue ver quem gastou quanto. A AWS recomenda colocar entre o editor de código e o Bedrock um proxy LiteLLM com interface compatível com a da OpenAI, e cada desenvolvedor passa a ter a sua própria chave. No exemplo, cada chave tem um limite de US$ 250 em janelas móveis de 7 dias. Assim, os gastos com assistentes de IA aparecem por pessoa, e não como um único valor na fatura.
Processado por IA de AWS Machine Learning Blog; editado por Hamidun News
Imagine uma empresa em que os desenvolvedores conectaram o Claude Code, o Continue ou o Cursor aos modelos Claude pelo Amazon Bedrock, serviço de nuvem da AWS com modelos de linguagem prontos. Um mês depois chega uma única fatura de tokens, e ninguém consegue dizer qual equipe ou qual pessoa consumiu esse volume. Engenheiros de plataforma precisam acompanhar latência e erros, o financeiro precisa distribuir os custos entre projetos, e a equipe de segurança precisa de regras de acesso unificadas.
A AWS publicou um guia que mostra como resolver essas três demandas com um único gateway, um servidor intermediário entre as ferramentas dos desenvolvedores e o Bedrock. O exemplo de limite de US$ 250 por chave em janelas móveis de 7 dias é didático, e os valores da configuração podem ser alterados.
Como o gateway funciona
A base é o proxy LiteLLM, executado como contêiner no AWS Fargate (serviço de execução de contêineres sem gerenciamento de servidores) e que se apresenta como uma API da OpenAI. O desenvolvedor informa em sua ferramenta um único endereço e a sua chave pessoal. Ele não se comunica diretamente com o Bedrock. O nome do modelo nas configurações, por exemplo claude-sonnet-4-20250514, é convertido pelo LiteLLM em uma referência ao perfil correto no Bedrock, e as chamadas são feitas com a ajuda de uma função IAM atribuída à tarefa do Fargate.
Em torno do proxy está montado um conjunto de serviços conhecidos:
- O PostgreSQL no Amazon RDS armazena as chaves e o registro de gastos.
- O ElastiCache for Valkey faz cache das respostas e coordena os limites de requisições entre várias cópias do gateway.
- O Secrets Manager guarda a chave-mestra e a senha do banco, que não podem ser escritas no config.yaml.
- O Langfuse, de código aberto, exibe os prompts e as latências e ajuda a analisar falhas.
- O CloudWatch coleta métricas de requisições por minuto (RPM) e de tokens por minuto (TPM), além de sinalizar a aproximação da cota.
Para cada modelo é criado um Application Inference Profile separado, isto é, um ponto de entrada nomeado no Bedrock. Ele oferece uma cota isolada por modelo e permissões de acesso refinadas. Esse perfil também separa a configuração do LiteLLM das versões dos modelos no Bedrock. Assim, é possível substituir um modelo, adicionar um reserva ou trocar de provedor sem que os desenvolvedores percebam qualquer mudança.
Os administradores definem a política de gastos no portal, e os desenvolvedores geram suas próprias chaves dentro dessa política. O portal pode ser integrado ao SSO corporativo.
Limites e armadilhas
O orçamento é definido na configuração: max_budget: 250 e budget_duration: 7d resultam em US$ 250 por chave em uma janela móvel de 7 dias. Para os modos longos com extended thinking, o exemplo aumenta o timeout para 900 segundos, ou seja, 15 minutos.
Os autores listam armadilhas que podem custar horas de trabalho:
- Se o modelo for informado pelo ARN bruto do perfil, o LiteLLM não o encontra na sua tabela de preços e considera o custo zero. O gasto da chave permanece em zero, e os orçamentos nunca são acionados. É preciso informar manualmente os preços por token no bloco model_info.
- Para um perfil global, o campo copyFrom precisa do ARN do perfil de sistema com o prefixo global., e não do ARN do próprio modelo. Caso contrário, será criado um perfil restrito a uma única região, sem roteamento entre regiões.
- Na política IAM, não basta indicar o perfil. Também são necessários o ARN do modelo base na região e as entradas com máscara para as demais regiões. Sem isso, a chamada retorna o erro «not authorized to perform bedrock:InvokeModel».
A AWS recomenda o cross-Region inference global quando os modelos escolhidos o suportam e a política da empresa permite o processamento de requisições em regiões diferentes do mundo. Nesse caso, o Bedrock direciona a requisição para onde houver capacidade livre, o que pode sair mais barato do que na opção geográfica. Se os dados precisarem permanecer dentro de uma mesma geografia, use o perfil geográfico, por exemplo, apenas para as regiões dos EUA.
Limitações
De acordo com a documentação, a versão gratuita do LiteLLM AI Gateway é indicada para pilotos e foi dimensionada para cinco usuários; acima disso, é necessária uma licença. As chaves virtuais existem também na versão gratuita, mas a autoemissão de chaves descrita no artigo exige o LiteLLM Enterprise. Essa edição inclui ainda SSO, logs de auditoria, papéis de administração delegados e suporte. Os Bedrock Guardrails, com filtragem de conteúdo e verificação de fundamentação das respostas, não são abordados no exemplo, mas devem ser adicionados antes de ir para produção.
A conclusão prática: se a empresa tiver mais de cinco desenvolvedores usando assistentes de IA, o gateway oferece controle de gastos e observabilidade sem alterações em cada ferramenta. Antes do lançamento, vale verificar três pontos: os preços por token no model_info, as permissões IAM e para onde vão os prompts no Langfuse, já que os rastros guardam os textos das requisições e das respostas.
- 21 de nov. de 2026Vídeo do Claude jogando GTA 6 tem cara de fake: meia hora de controle consumiu o limite de 5 horas do Pro
- 21 de nov. de 2026Claude Code acelerou a descompilação de Snowboard Kids 2: de 20% para 45% das funções em três meses
- 21 de nov. de 2026As vagas de FDE cresceram 4,6 vezes em um ano: o que faz o engenheiro no cliente
- 21 de nov. de 2026Anthropic cortou em 20% o preço do Claude Fable 5.2, e no teste de código ele quase empata com o Opus 5.5
Perguntas frequentes sobre a notícia
Como o gateway funciona?
A base é o proxy LiteLLM, executado como contêiner no AWS Fargate (serviço de execução de contêineres sem gerenciamento de servidores) e que se apresenta como uma API da OpenAI. O desenvolvedor informa em sua ferramenta um único endereço e a sua chave pessoal. Ele não se comunica diretamente com o Bedrock.
O que se sabe sobre Limites e armadilhas?
O orçamento é definido na configuração: max_budget: 250 e budget_duration: 7d resultam em US$ 250 por chave em uma janela móvel de 7 dias. Para os modos longos com extended thinking, o exemplo aumenta o timeout para 900 segundos, ou seja, 15 minutos. Os autores listam armadilhas que podem custar horas de trabalho: Se o modelo for informado pelo ARN bruto do perfil, o LiteLLM não o encontra na sua tabela de preços e considera o custo zero. O gasto da chave permanece em zero, e os orçamentos nunca são acionados.
O que se sabe sobre Limitações?
De acordo com a documentação, a versão gratuita do LiteLLM AI Gateway é indicada para pilotos e foi dimensionada para cinco usuários; acima disso, é necessária uma licença. As chaves virtuais existem também na versão gratuita, mas a autoemissão de chaves descrita no artigo exige o LiteLLM Enterprise. Essa edição inclui ainda SSO, logs de auditoria, papéis de administração delegados e suporte.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.