Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarAWS Machine Learning Blog→ original

Fatura do Amazon Bedrock pode cair sem trocar de modelo: o Flex custa metade do Standard

A conta do Amazon Bedrock continua subindo mesmo depois de encurtar os prompts, porque o custo é definido pelas configurações de cada requisição. Para tarefas em segundo plano, como relatórios noturnos, a tarifa Flex do modelo Nova 2 Lite custa metade do Standard. O modo de raciocínio low, em vez de high, reduziu a resposta do agente no Claude Opus 5 de 2521 para 936 tokens. O ideal é mudar uma configuração por vez, conferindo a fatura e a qualidade a cada mudança.

Processado por IA de AWS Machine Learning Blog; editado por Hamidun News
Fatura do Amazon Bedrock pode cair sem trocar de modelo: o Flex custa metade do Standard
Fonte: AWS Machine Learning Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalAWS Machine Learning Blog ↗
Editor-chefe
Dado-chave #1Um limite de resposta de 155 tokens, em vez de 2048, economizou 1893 tokens
Dado-chave #2O cache de uma hora compensa a partir da 2ª requisição por hora quando as pausas passam de 5 minutos
Claude Sonnet 5 e Opus 5 não aceitam Flexa requisição falha com erro

Você já encurtou os prompts e eliminou chamadas desnecessárias, mas a conta de uso dos modelos no Amazon Bedrock continua subindo. A equipe da AWS mostrou que parte desse dinheiro vai para quatro parâmetros definidos em cada requisição: por quanto tempo o cache permanece ativo (a parte memorizada do prompt, que não precisa ser paga de novo pelo preço cheio), qual tarifa de atendimento foi escolhida, quanto o modelo "pensa" antes de responder e qual é o teto de tamanho da resposta. Não é preciso mudar o modelo nem o texto do prompt.

Por exemplo: um relatório noturno não precisa da velocidade de um chat, e, se for enviado pela tarifa Flex, custa metade do Standard. E se um agente gasta 936 tokens de resposta em vez de 2521, a conta dele cai quase para um terço. Token é a unidade de texto pela qual se paga.

Cache: prazo longo nem sempre é mais barato

Se as instruções do sistema, as descrições das ferramentas ou o contexto de referência se repetem, eles podem ser colocados em cache. Para os modelos compatíveis da Anthropic, há prazos de validade de 5 minutos e de 1 hora. Para Claude Sonnet 5 e Opus 5, a gravação com validade de 5 minutos custa 1,25 vez o preço normal de entrada, a gravação de 1 hora custa 2 vezes esse preço, e a leitura do cache custa apenas 0,1.

A conta é simples. Se requisições com o mesmo início chegam mais de uma vez a cada 5 minutos, o cache curto se paga já na primeira repetição. Se as pausas são mais longas, ele é regravado a cada requisição pelo preço de 1,25. Nesse caso, o cache de 1 hora compensa a partir da segunda requisição dentro de uma hora. Para que a opção "sem cache" seja a melhor, seriam necessárias três requisições por hora.

Há também armadilhas. Qualquer mudança no início do prompt, seja na instrução do sistema ou na descrição de uma ferramenta, causa uma falha no cache e uma nova gravação. A verificação segue a ordem "ferramentas, sistema, mensagens", então uma alteração no começo invalida tudo o que vem depois. Em um teste com Sonnet 5, em seis chamadas, duas dessas alterações resultaram em zero leituras do cache e em uma nova gravação. O cache está vinculado à conta e à região, e não aos seus clientes; por isso, em aplicativos com muitos clientes, costuma-se acrescentar ao início do prompt um hash SHA-256 do cliente. Se é preciso isolamento rígido dos dados, mantenha cada cliente em uma conta AWS separada.

Tarifa Flex e esforço de raciocínio

Tarefas em segundo plano, execuções de avaliação e resumos noturnos não exigem a velocidade de um chat interativo. Para eles, alguns modelos oferecem a tarifa Flex. A AWS testou essa tarifa com o Nova 2 Lite: foram 200 requisições no Standard e 200 no Flex, enviadas em pares. O volume de tokens processado foi igual, todas as 400 requisições receberam a tarifa solicitada, e a diferença na latência mediana ficou dentro da variação normal. O preço publicado do Flex na região us-west-2 é metade do Standard, e a fatura confirmou isso.

O suporte depende da versão do modelo: Nova 2 Lite e gpt-oss-120b têm Flex, mas Claude Sonnet 5 e Opus 5 não. Uma requisição a um modelo sem suporte falha com o erro ValidationException e não é redirecionada em silêncio para o Standard. Se a política permitir uma alternativa, capture justamente esse erro e repita uma vez com a tarifa default. Capturar qualquer ValidationException não é recomendável, pois requisições malformadas também a geram.

Com o raciocínio, a história fica mais cara. Os tokens de "pensamento" são cobrados como saída. Claude Sonnet 5 e Opus 5 operam por padrão com raciocínio adaptativo em nível alto, mesmo quando o campo thinking não é informado. Um aplicativo migrado do Sonnet 4.6 sem alterações passará a pagar pelo raciocínio, e o maxTokens agora limita o raciocínio e o texto da resposta juntos.

A AWS executou um agente com chamadas de ferramentas no Claude Opus 5: três tarefas, com oito execuções em cada nível de esforço. Todas as 24 execuções, em qualquer nível, produziram respostas corretas. A mediana do tamanho da resposta subiu de 936 tokens no low para 1484 no medium (+59%), 2521 no high (+169%), 2964 no xhigh e 3762 no max (+302%). Na geração de código, a diferença entre low e high (676 contra 743 tokens) ficou dentro da variação entre execuções. A ressalva é honesta: na fronteira das capacidades do modelo, a qualidade pode cair com esforço baixo, por isso os tokens devem ser medidos junto com a proporção de tarefas concluídas.

Teto da resposta: seguro, não proteção

O maxTokens limita a resposta que pode ser inflada por um prompt ruim, uma regressão ou um loop. Ao iniciar a requisição, o Bedrock reserva na cota os tokens de entrada mais o maxTokens, então um limite alto reduz o número de requisições simultâneas. No teste com Sonnet 5, as respostas normais chegaram a 103 tokens, e o limite foi definido em 155. Uma requisição propositalmente prolixa, com teto de 2048, gerou 2048 tokens; com teto de 155, gerou apenas 155, ou seja, economizou 1893 tokens. Ambas as respostas ficaram truncadas: o limite economiza dinheiro, mas não torna útil um prompt ruim. Em cadeias de várias etapas, uma resposta truncada pode quebrar tudo o que vem depois.

Na prática, o limite é escolhido com base no P95 ou P99 (o tamanho em que cabem 95% ou 99% das respostas) de cada tipo de tarefa, com uma margem adicional para incluir o raciocínio. As paradas por max_tokens devem ser monitoradas, e a requisição precisa ser investigada antes de se aumentar o limite. O limite não é proteção contra conteúdo nocivo: para isso existe o Bedrock Guardrails.

O que fazer

A ordem é a mesma para os quatro parâmetros: confirmar que o modelo oferece suporte, alterar uma configuração, medir tokens ou custo e avaliar a qualidade. Se você envia requisições para modelos diferentes, crie para cada versão, região e API uma ficha de capacidades com prazos de cache, tarifas, níveis de raciocínio e limites. A resposta do Bedrock informa a tarifa efetivamente aplicada e os contadores de cache; vale conferi-los no CloudWatch e na fatura.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre Cache: prazo longo nem sempre é mais barato?

Se as instruções do sistema, as descrições das ferramentas ou o contexto de referência se repetem, eles podem ser colocados em cache. Para os modelos compatíveis da Anthropic, há prazos de validade de 5 minutos e de 1 hora. Para Claude Sonnet 5 e Opus 5, a gravação com validade de 5 minutos custa 1,25 vez o preço normal de entrada, a gravação de 1 hora custa 2 vezes esse preço, e a leitura do cache custa apenas 0,1. A conta é simples.

O que se sabe sobre Tarifa Flex e esforço de raciocínio?

Tarefas em segundo plano, execuções de avaliação e resumos noturnos não exigem a velocidade de um chat interativo. Para eles, alguns modelos oferecem a tarifa Flex. A AWS testou essa tarifa com o Nova 2 Lite: foram 200 requisições no Standard e 200 no Flex, enviadas em pares. O volume de tokens processado foi igual, todas as 400 requisições receberam a tarifa solicitada, e a diferença na latência mediana ficou dentro da variação normal.

O que se sabe sobre Teto da resposta: seguro, não proteção?

O maxTokens limita a resposta que pode ser inflada por um prompt ruim, uma regressão ou um loop. Ao iniciar a requisição, o Bedrock reserva na cota os tokens de entrada mais o maxTokens, então um limite alto reduz o número de requisições simultâneas. No teste com Sonnet 5, as respostas normais chegaram a 103 tokens, e o limite foi definido em 155. Uma requisição propositalmente prolixa, com teto de 2048, gerou 2048 tokens; com teto de 155, gerou apenas 155, ou seja, economizou 1893 tokens.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…