Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarAWS Machine Learning Blog→ original

AWS mostrou como dar aos desenvolvedores acesso ao Claude com chave pessoal e limite de US$ 250 em 7 dias

Se a equipe inteira usa o Claude pelo Amazon Bedrock, o financeiro não consegue ver quem gastou quanto. A AWS recomenda colocar entre o editor de código e o Bedrock um proxy LiteLLM com interface compatível com a da OpenAI, e cada desenvolvedor passa a ter a sua própria chave. No exemplo, cada chave tem um limite de US$ 250 em janelas móveis de 7 dias. Assim, os gastos com assistentes de IA aparecem por pessoa, e não como um único valor na fatura.

Processado por IA de AWS Machine Learning Blog; editado por Hamidun News
AWS mostrou como dar aos desenvolvedores acesso ao Claude com chave pessoal e limite de US$ 250 em 7 dias
Fonte: AWS Machine Learning Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalAWS Machine Learning Blog ↗
Editor-chefe
Dado-chave #1O próprio desenvolvedor gera a chave no portal com SSO corporativo
Dado-chave #2A autoemissão de chaves funciona apenas no LiteLLM Enterprise pago
Dado-chave #3A versão gratuita do LiteLLM é voltada a pilotos com até cinco pessoas

Imagine uma empresa em que os desenvolvedores conectaram o Claude Code, o Continue ou o Cursor aos modelos Claude pelo Amazon Bedrock, serviço de nuvem da AWS com modelos de linguagem prontos. Um mês depois chega uma única fatura de tokens, e ninguém consegue dizer qual equipe ou qual pessoa consumiu esse volume. Engenheiros de plataforma precisam acompanhar latência e erros, o financeiro precisa distribuir os custos entre projetos, e a equipe de segurança precisa de regras de acesso unificadas.

A AWS publicou um guia que mostra como resolver essas três demandas com um único gateway, um servidor intermediário entre as ferramentas dos desenvolvedores e o Bedrock. O exemplo de limite de US$ 250 por chave em janelas móveis de 7 dias é didático, e os valores da configuração podem ser alterados.

Como o gateway funciona

A base é o proxy LiteLLM, executado como contêiner no AWS Fargate (serviço de execução de contêineres sem gerenciamento de servidores) e que se apresenta como uma API da OpenAI. O desenvolvedor informa em sua ferramenta um único endereço e a sua chave pessoal. Ele não se comunica diretamente com o Bedrock. O nome do modelo nas configurações, por exemplo claude-sonnet-4-20250514, é convertido pelo LiteLLM em uma referência ao perfil correto no Bedrock, e as chamadas são feitas com a ajuda de uma função IAM atribuída à tarefa do Fargate.

Em torno do proxy está montado um conjunto de serviços conhecidos:

  • O PostgreSQL no Amazon RDS armazena as chaves e o registro de gastos.
  • O ElastiCache for Valkey faz cache das respostas e coordena os limites de requisições entre várias cópias do gateway.
  • O Secrets Manager guarda a chave-mestra e a senha do banco, que não podem ser escritas no config.yaml.
  • O Langfuse, de código aberto, exibe os prompts e as latências e ajuda a analisar falhas.
  • O CloudWatch coleta métricas de requisições por minuto (RPM) e de tokens por minuto (TPM), além de sinalizar a aproximação da cota.

Para cada modelo é criado um Application Inference Profile separado, isto é, um ponto de entrada nomeado no Bedrock. Ele oferece uma cota isolada por modelo e permissões de acesso refinadas. Esse perfil também separa a configuração do LiteLLM das versões dos modelos no Bedrock. Assim, é possível substituir um modelo, adicionar um reserva ou trocar de provedor sem que os desenvolvedores percebam qualquer mudança.

Os administradores definem a política de gastos no portal, e os desenvolvedores geram suas próprias chaves dentro dessa política. O portal pode ser integrado ao SSO corporativo.

Limites e armadilhas

O orçamento é definido na configuração: max_budget: 250 e budget_duration: 7d resultam em US$ 250 por chave em uma janela móvel de 7 dias. Para os modos longos com extended thinking, o exemplo aumenta o timeout para 900 segundos, ou seja, 15 minutos.

Os autores listam armadilhas que podem custar horas de trabalho:

  • Se o modelo for informado pelo ARN bruto do perfil, o LiteLLM não o encontra na sua tabela de preços e considera o custo zero. O gasto da chave permanece em zero, e os orçamentos nunca são acionados. É preciso informar manualmente os preços por token no bloco model_info.
  • Para um perfil global, o campo copyFrom precisa do ARN do perfil de sistema com o prefixo global., e não do ARN do próprio modelo. Caso contrário, será criado um perfil restrito a uma única região, sem roteamento entre regiões.
  • Na política IAM, não basta indicar o perfil. Também são necessários o ARN do modelo base na região e as entradas com máscara para as demais regiões. Sem isso, a chamada retorna o erro «not authorized to perform bedrock:InvokeModel».

A AWS recomenda o cross-Region inference global quando os modelos escolhidos o suportam e a política da empresa permite o processamento de requisições em regiões diferentes do mundo. Nesse caso, o Bedrock direciona a requisição para onde houver capacidade livre, o que pode sair mais barato do que na opção geográfica. Se os dados precisarem permanecer dentro de uma mesma geografia, use o perfil geográfico, por exemplo, apenas para as regiões dos EUA.

Limitações

De acordo com a documentação, a versão gratuita do LiteLLM AI Gateway é indicada para pilotos e foi dimensionada para cinco usuários; acima disso, é necessária uma licença. As chaves virtuais existem também na versão gratuita, mas a autoemissão de chaves descrita no artigo exige o LiteLLM Enterprise. Essa edição inclui ainda SSO, logs de auditoria, papéis de administração delegados e suporte. Os Bedrock Guardrails, com filtragem de conteúdo e verificação de fundamentação das respostas, não são abordados no exemplo, mas devem ser adicionados antes de ir para produção.

A conclusão prática: se a empresa tiver mais de cinco desenvolvedores usando assistentes de IA, o gateway oferece controle de gastos e observabilidade sem alterações em cada ferramenta. Antes do lançamento, vale verificar três pontos: os preços por token no model_info, as permissões IAM e para onde vão os prompts no Langfuse, já que os rastros guardam os textos das requisições e das respostas.

História

Perguntas frequentes sobre a notícia

Como o gateway funciona?

A base é o proxy LiteLLM, executado como contêiner no AWS Fargate (serviço de execução de contêineres sem gerenciamento de servidores) e que se apresenta como uma API da OpenAI. O desenvolvedor informa em sua ferramenta um único endereço e a sua chave pessoal. Ele não se comunica diretamente com o Bedrock.

O que se sabe sobre Limites e armadilhas?

O orçamento é definido na configuração: max_budget: 250 e budget_duration: 7d resultam em US$ 250 por chave em uma janela móvel de 7 dias. Para os modos longos com extended thinking, o exemplo aumenta o timeout para 900 segundos, ou seja, 15 minutos. Os autores listam armadilhas que podem custar horas de trabalho: Se o modelo for informado pelo ARN bruto do perfil, o LiteLLM não o encontra na sua tabela de preços e considera o custo zero. O gasto da chave permanece em zero, e os orçamentos nunca são acionados.

O que se sabe sobre Limitações?

De acordo com a documentação, a versão gratuita do LiteLLM AI Gateway é indicada para pilotos e foi dimensionada para cinco usuários; acima disso, é necessária uma licença. As chaves virtuais existem também na versão gratuita, mas a autoemissão de chaves descrita no artigo exige o LiteLLM Enterprise. Essa edição inclui ainda SSO, logs de auditoria, papéis de administração delegados e suporte.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…