Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarAWS Machine Learning Blog→ original

AWS mostrou como limitar gastos com o Bedrock por funcionário sem escrever código

Quando a IA entra em uma empresa, o diretor financeiro logo pergunta: quem gasta quanto e dá para limitar isso? A AWS responde sem código próprio: o Bedrock registra qual função IAM ou usuário fez cada requisição, as tags levam essa informação para a fatura, e o AWS Budgets desativa os modelos caros quando o limite é ultrapassado. A solução é mais simples que o esquema personalizado da Jamf, mas não funciona em tempo real: os orçamentos são atualizados até três vezes por dia.

Processado por IA de AWS Machine Learning Blog; editado por Hamidun News
AWS mostrou como limitar gastos com o Bedrock por funcionário sem escrever código
Fonte: AWS Machine Learning Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalAWS Machine Learning Blog ↗
Editor-chefe
Dado-chave #1As tags precisam ser ativadas antecipadamente: elas aparecem na fatura em até 24 + 24 horas
Dado-chave #2Se a função for compartilhada, a restrição afetará todos que a utilizam
Dado-chave #3É preciso contabilizar quatro tipos de tokens, incluindo a leitura e a gravação do cache

Assim que a empresa libera o acesso à IA generativa aos funcionários, a conta de tokens deixa de ser abstrata. O diretor financeiro quer saber quanto cada pessoa ou equipe gasta, se é possível definir um teto e quanto trabalho essa configuração vai exigir. A AWS publicou uma análise de como responder a essas perguntas com os recursos nativos do Amazon Bedrock. Para o caso típico, não será preciso escrever código próprio.

Essa é a continuação da história da Jamf. Lá, a equipe montou seu próprio sistema de controle: IAM Identity Center, Athena sobre os logs de chamadas aos modelos e Lambda. Ele funciona quase em tempo real, mas o código precisa ser mantido pela própria equipe. A nova abordagem é mais simples, porém menos ágil.

Três etapas: atribuição, relatório, limitação

Primeiro, o Bedrock registra automaticamente qual usuário ou função IAM fez cada requisição de inferência. Não é necessário alterar as chamadas aos modelos. Se cada pessoa ou aplicação tiver sua própria função, bastam as tags na própria função, por exemplo: user, team, CostCenter. Se a função for compartilhada, serão necessárias tags de sessão. Elas são passadas no momento em que a função é assumida: por meio de sts:AssumeRole com o parâmetro --tags, por token OIDC ou por asserção SAML. Para isso, a política de confiança da função deve permitir sts:TagSession. No total, é possível definir até 50 tags por usuário ou função.

Segundo, as tags precisam ser ativadas como cost allocation tags no console de Billing. Em uma organização da AWS, isso é feito na conta pagadora (payer). A chave da tag só aparece na lista após pelo menos uma chamada ao Bedrock. Depois disso, leva até 24 horas para a chave surgir e mais até 24 horas para os dados chegarem à fatura. A ativação não funciona retroativamente, por isso é melhor fazê-la com antecedência.

Para os relatórios, há dois caminhos. O simples: o Cost Explorer com filtro pelo Bedrock e agrupamento por tag. O detalhado: a exportação do CUR 2.0 com a opção caller identity, que é consultada com SQL pelo Athena. As tags ficam nas colunas com o prefixo iamPrincipal/. Uma exportação CUR antiga não recebe a identidade retroativamente, é preciso uma nova. A AWS disponibilizou consultas prontas no repositório aws-samples/sample-cur-iam-principal-bedrock-tracking.

Nas consultas, é fácil cometer erros. O Bedrock cobra por quatro tipos de tokens: de entrada, de saída, leitura do cache e gravação do cache. Se considerar apenas entrada e saída, o total ficará subestimado, especialmente em cargas com cache de prompts ativo. O preço também depende do nível tarifário e de a requisição ter passado pela inferência cross-Region. Por isso, a tarifa deve ser vinculada à linha da fatura, e não ao modelo. Além disso, o Bedrock pode aparecer sob vários valores de product_servicecode.

Limitação com o AWS Budgets

Terceiro, cria-se um orçamento do Bedrock com filtro para uma identidade específica ou um valor de tag. A ele se associa uma budget action, que anexa uma política IAM de Deny quando o limite é atingido. É possível bloquear apenas os modelos caros e manter o barato disponível, para que a pessoa continue trabalhando. Podem existir vários limites. Por exemplo, o modelo premium é desativado em 80% do orçamento, o intermediário em 100%, e o barato nunca é desativado. A ação pode ser executada automaticamente ou após confirmação manual. Vale notificar o usuário sobre o motivo, caso contrário ele pode achar que o serviço quebrou.

São necessárias duas funções: a sua, com a política gerenciada AWSBudgetsActionsWithAWSResourceControlAccess, e uma função separada, em nome da qual o Budgets anexa e desanexa as políticas.

Limitações que você precisa conhecer

A principal limitação: os dados do Budgets são atualizados até três vezes por dia, então o gasto pode ultrapassar o limite antes de a ação ser acionada. Para um controle rígido em tempo real, a abordagem da Jamf continua necessária.

Segundo, a ação é vinculada a um usuário, grupo ou função. Uma função compartilhada significa que a restrição atingirá todos que a utilizam. Por meio de um gateway de LLM, o Bedrock verá apenas a função de serviço, e não a pessoa final. Para usuários federados sem função própria, o método não serve bem.

Terceiro, o CUR não contém dados linha a linha das requisições, apenas agregados por hora ou dia. As tags de sessão não aparecem nos logs de chamadas, que registram o ARN de quem chamou. Para distinguir pessoas em uma sessão compartilhada, ajuda um RoleSessionName único ou metadados da requisição. Por fim, ao conectar um novo modelo, verifique se ele aparece nas consultas e nos filtros de orçamento, pois os tipos de uso são associados aos modelos.

Conclusão prática: se cada desenvolvedor ou serviço tiver sua própria função, a configuração leva algumas horas, e para a maioria das empresas isso basta. Se o tráfego passar por um gateway compartilhado, primeiro resolva a atribuição e só depois pense em limites.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre Três etapas: atribuição, relatório, limitação?

Primeiro, o Bedrock registra automaticamente qual usuário ou função IAM fez cada requisição de inferência. Não é necessário alterar as chamadas aos modelos. Se cada pessoa ou aplicação tiver sua própria função, bastam as tags na própria função, por exemplo: user, team, CostCenter. Se a função for compartilhada, serão necessárias tags de sessão. Elas são passadas no momento em que a função é assumida: por meio de sts:AssumeRole com o parâmetro --tags, por token OIDC ou por asserção SAML.

O que se sabe sobre Limitação com o AWS Budgets?

Terceiro, cria-se um orçamento do Bedrock com filtro para uma identidade específica ou um valor de tag. A ele se associa uma budget action, que anexa uma política IAM de Deny quando o limite é atingido. É possível bloquear apenas os modelos caros e manter o barato disponível, para que a pessoa continue trabalhando. Podem existir vários limites. Por exemplo, o modelo premium é desativado em 80% do orçamento, o intermediário em 100%, e o barato nunca é desativado.

O que se sabe sobre Limitações que você precisa conhecer?

A principal limitação: os dados do Budgets são atualizados até três vezes por dia, então o gasto pode ultrapassar o limite antes de a ação ser acionada. Para um controle rígido em tempo real, a abordagem da Jamf continua necessária. Segundo, a ação é vinculada a um usuário, grupo ou função. Uma função compartilhada significa que a restrição atingirá todos que a utilizam. Por meio de um gateway de LLM, o Bedrock verá apenas a função de serviço, e não a pessoa final.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…