Cache de prompts reduziu a conta de 30 passos de um agente em 6,6 vezes: US$ 3,38 → US$ 0,51

Imagine um agente de suporte que consulta a base de conhecimento e o CRM 30 vezes seguidas. O modelo não guarda nada na memória, então, a cada passo, o código ao redor dele (chamado de harness, ou "estrutura de execução") reenvia tudo: descrições das ferramentas, regras e todo o histórico dos passos. Token é um pedaço de texto, a unidade em que o modelo lê e em que o custo é calculado.

No exemplo hipotético da primeira parte da série "AI-engenharia para quem está começando", o modelo leu 1,63 milhão de tokens em 30 passos, embora nenhuma requisição tenha passado de 96.300. Sem cache, a tarefa custa US$ 3,38; com cache de prompts, US$ 0,51, ou seja, 6,6 vezes menos.

Se você escreve ou paga por agentes, essa conta afeta diretamente o orçamento.

O que faz um engenheiro de IA e por que o modelo "não lembra de nada"

No hh.ru, em 28 de outubro de 2026, há 1.458 vagas com a expressão "AI-agent"; LLM aparece em 1.261, RAG em 520 e MCP em 245. Já "cache de prompts" surge em apenas 13 vagas, e tokens, em 19. Quer-se construir agentes em massa, mas quase ninguém pergunta quanto custam.

Seguindo Chip Huyen ("AI Engineering"), o autor separa os papéis. O engenheiro de ML treina o modelo. O engenheiro de IA pega um modelo pronto, como Claude ou GPT, e constrói um sistema em volta dele: fornece dados, conecta ferramentas, verifica o resultado e acompanha o custo. Para ele, o modelo é um serviço externo, como um banco de dados, só que responde em texto e às vezes erra. Segundo a pesquisa do Stack Overflow de 2026, 73% dos desenvolvedores escrevem código todos os dias com assistentes e agentes.

O modelo em si não executa nada: ele responde em texto ou pede algo como "chame a função get_weather para Moscou", e quem roda a função é o seu código. Na documentação da Anthropic, o laço do agente é um simples while: requisição, chamada de ferramenta, resultado e nova requisição, até o modelo responder com texto. Toda requisição é montada na mesma ordem: ferramentas, prompt de sistema, histórico.

O agente é ampliado por meio de MCP (padrão aberto para conectar ferramentas e dados), skills (pastas com instruções; no contexto fica apenas a descrição, de cerca de 100 tokens), subagentes (ajudantes com contexto próprio que devolvem só o resultado final) e hooks. Hook é um script seu, acionado por um evento da estrutura de execução: pode bloquear uma ação, consultar uma pessoa ou rodar um linter. A regra do autor: a skill aconselha, o hook garante.

Quanto custam 30 passos de um agente

Preços do Sonnet 5.5 em 28 de outubro: US$ 2 por milhão de tokens de entrada e US$ 10 por milhão de tokens de saída. O cenário é hipotético: 12 mil tokens no início de cada requisição (ferramentas e prompt de sistema), 200 tokens na primeira mensagem e, a cada passo, uma resposta do modelo de 400 tokens e um resultado de ferramenta de 2.500.

No último passo, a requisição pesa 96.300 tokens, menos de um décimo da janela de contexto. Mas cada passo paga de novo por tudo o que veio antes, então, em 30 passos, o modelo leu 1,63 milhão de tokens, 17 vezes mais. As respostas do modelo somam cerca de 12 mil tokens, de modo que quase todo o dinheiro vai para a entrada. O total sem cache é US$ 3,38.

O idioma também pesa. O autor fez uma medição pequena, com três pares de textos idênticos (documentação, prosa e código), com cerca de 1.000 caracteres por idioma. No Sonnet 4.6 e no Haiku 4.5, o russo ocupou 1,6 vez mais tokens que o inglês; no Sonnet 5.5, 1,27 vez. A causa não está no russo (402 tokens passaram a 415), mas no inglês: ele subiu de 252 para 327 tokens por causa de um novo método de divisão do texto. A amostra é pequena; serve de referência, não de estudo.

Como o cache chega a 6,6 vezes e como não quebrá-lo

No passo 30, o modelo já leu quase todo o conteúdo da requisição no passo 29: as mesmas ferramentas, o mesmo prompt, o mesmo histórico. O cache não reprocessa o início repetido e cobra por ele de 5% a 10% do preço. Você coloca um marcador (até quatro) indicando até onde salvar. A requisição seguinte só acerta o cache se o início for idêntico, até o último caractere. O cache dura 5 minutos, cada acerto renova o prazo e, mediante pagamento extra, é possível mantê-lo por uma hora. O mínimo para os novos modelos Claude é 512 tokens; se a requisição for menor, não haverá erro, o cache simplesmente não será ativado.

Com cache, as mesmas requisições custam US$ 0,51 em vez de US$ 3,38. Quebrá-lo é fácil: trocar a descrição de uma ferramenta invalida a requisição inteira, e uma busca na internet ou a hora atual no prompt de sistema invalidam o prompt e o histórico. Mudar o tool_choice ou adicionar uma imagem zera o histórico.

O que fazer na prática: comece com uma única requisição e prefira uma cadeia a um agente enquanto os passos puderem ser definidos no código. Mantenha o que não muda no início, não altere o conjunto de ferramentas no meio da sessão e não coloque datas nem IDs aleatórios no começo. Observe o campo usage: se cache_read_input_tokens quase sempre for zero, o cache não está funcionando. Delegue o trabalho ruidoso a subagentes, leve instruções longas para skills e use hooks para as verificações obrigatórias. Dê ao agente um meio de se verificar, como testes, build ou navegador; do contrário, ele declarará "pronto" cedo demais.

Ressalva: o cálculo é hipotético, e a economia real depende do tamanho da tarefa, das pausas entre requisições e da estabilidade do início da requisição. Na segunda parte da série, o autor tratará da confiabilidade, com idempotência e durable execution; na terceira, da diferença entre cadeia e agente, usando o exemplo do agente de suporte.