Como um desenvolvedor reduziu o consumo de tokens do agente de IA em 4,6 mi por dia: analisando o vazamento

Um desenvolvedor no Habr publicou uma análise do consumo real de tokens de um agente de IA e descobriu: a maior parte do orçamento não vai para trabalho útil, mas para processos de serviço em segundo plano. Ajustando as configurações dessas tarefas, ele reduziu o consumo em aproximadamente 4,6 milhões de tokens por dia.

Onde os tokens realmente vazam

A intuição sugere que os tokens vão para onde o agente resolve tarefas difíceis: escrevendo código, analisando sites, gerenciando navegadores, analisando logs. Tarefa complexa, modelo pensa, ferramentas funcionam, contexto cresce—parece lógico.

Mas a análise de dados reais mostra um quadro diferente. O principal consumidor do orçamento não são tarefas complexas, mas processos de serviço que funcionam constantemente em segundo plano:

• Tarefas agendadas — lançamentos regulares independentemente de haver trabalho real ou não
• Diagnósticos e solicitações de status — o agente verifica constantemente seu estado, mesmo quando nada está acontecendo
• Listas de ferramentas excessivas — dezenas de ferramentas são carregadas no contexto "por precaução", embora a maioria das tarefas exija apenas três a cinco
• Verificações de monitoramento — pings contínuos de saúde, incluindo períodos de inatividade total

O paradoxo é que o agente executa confiávelmente seu trabalho do ponto de vista do código: faz verificações, mantém ferramentas à mão, executa cronogramas. Só que nenhuma dessas ações cria valor para o usuário—mas cada uma adiciona à conta. O contador de tokens já está girando antes do usuário enviar sequer um pedido.

Por que esse vazamento é difícil de notar

O autor descreve a situação com uma analogia perfeita: imagine um encanador chamado para trocar uma tomada. Antes de pegar as ferramentas, ele descarrega de sua van todo o mercado de construção, duas perfuratrizes e uma betoneira—e cobra por todo o tempo, incluindo descarregamento.

Cada solicitação individual em segundo plano parece barata: um ping de diagnóstico—dezenas de tokens, uma verificação agendada uma vez por minuto—também pouco. Mas em escala diária, com vários processos paralelos, o efeito cumulativo é enorme—comparável a milhares de interações reais com usuários.

O problema é agravado pela abordagem padrão para projetar sistemas de agentes: tudo potencialmente útil é carregado no contexto antecipadamente, ferramentas são anexadas em lotes, monitoramento funciona continuamente. Na fase de desenvolvimento e depuração, isso é justificado. Em produção, torna-se um buraco permanente e previsível no orçamento. É por isso que o problema não se destaca à primeira vista nas despesas: o painel mostra a soma, mas não explica de onde vem a maior parte.

O que a auditoria de processos em segundo plano oferece

O desenvolvedor identificou pontos específicos de vazamento, ajustou as configurações de tarefas em segundo plano e reduziu o consumo em aproximadamente 4,6 milhões de tokens por dia. Importante: este é o resultado apenas em tarefas em segundo plano—sem quaisquer alterações na lógica principal de trabalho do agente.

A otimização de agentes de IA não começa com qualidade de prompt e não é determinada pela escolha do modelo. Uma parte significativa do orçamento real é determinada por decisões arquitetônicas—frequência de lançamentos em segundo plano, composição de ferramentas no contexto, lógica de monitoramento. É aqui que frequentemente estão as oportunidades mais rápidas e mensuráveis para economia de custos. Tal auditoria é especialmente importante ao escalar: aumentar o número de agentes ou tarefas multiplica o consumo em segundo plano mesmo que a lógica principal permaneça inalterada.

O que isso significa

Antes de otimizar a qualidade das respostas de um agente, verifique quantos tokens são gastos antes que ele comece a funcionar. Auditar tarefas em segundo plano não é uma medida única—é uma parte padrão da manutenção de sistemas de agentes em produção.