Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarModal Blog→ original

Modal: a sandbox de um agente de IA usa menos de 6% do pico de CPU por mais da metade do tempo

Um agente de programação passa a maior parte do tempo esperando a resposta do modelo, e o processador da sandbox fica ocioso. Segundo a Modal, uma Sandbox típica usa menos de 6% do seu pico de CPU por mais da metade da sua vida; os picos acontecem na instalação de dependências, nos testes e na compilação. Pagar por uma reserva para o pico é como alugar um caminhão por um dia para fazer só duas viagens. Por isso, a Modal oferece um pedido mínimo e um "turbo" temporário, e o ideal é dimensionar os recursos com base no perfil real do agente.

Processado por IA de Modal Blog; editado por Hamidun News
Modal: a sandbox de um agente de IA usa menos de 6% do pico de CPU por mais da metade do tempo
Fonte: Modal Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalModal Blog ↗
Editor-chefe
Pedido padrão0,125 núcleo e 128 MiB de memória
Exemploum agente corrigiu uma vulnerabilidade em 2 min 46 s, com cerca de 47 MiB de memória
Dado-chave #3Desse tempo, 33 s foram de espera pelo modelo, mais duas pausas de 60 s

Se você executa agentes de IA em sandboxes isoladas, conhece a aritmética incômoda: os recursos costumam ser contratados para o pior cenário, e grande parte do tempo eles ficam ociosos. O blog da Modal analisa esse problema com números. A empresa afirma que uma Sandbox típica usa menos de 6% do seu pico de CPU por mais da metade da sua vida. Em outras palavras, você paga por uma potência que só é necessária por alguns segundos. Daí a ideia do título original: "burst, don't reserve", ou seja, deixe a sandbox acelerar por um curto período, em vez de reservar potência antecipadamente.

Por que reservar para o pico não funciona para agentes

Pegue um agente de programação. Ele opera em ciclo: o modelo decide o que fazer em seguida, o agente executa um comando, recebe o resultado e volta a esperar o modelo. Enquanto o modelo raciocina, a sandbox quase não faz nada. A carga dispara quando o agente instala dependências, executa testes ou compila o projeto.

O mesmo padrão se repete em outros cenários comuns: rollouts de RL (execuções do agente para aprendizado por reforço), avaliações de modelos (evals) e construtores de aplicações. Em todos eles há pausas longas e picos curtos.

Imagine alugar um caminhão para o dia inteiro porque você precisa transportar móveis duas vezes. A reserva fixa de CPU para o pico funciona da mesma forma: você chuta o máximo, contrata com folga e mantém essa capacidade o tempo todo, embora o pico dure pouco.

O que mostra uma sessão real

A Modal apresenta o registro de uma execução real numa tarefa do Terminal-Bench 2.1: "encontrar e corrigir uma vulnerabilidade em um repositório". O agente concluiu a tarefa em 2 minutos e 46 segundos e fez 10 chamadas ao modelo. O processador ficou praticamente em zero na maior parte do tempo, com picos curtos ao executar o pytest. A memória se manteve em cerca de 47 MiB.

Ambos os indicadores couberam no pedido mínimo da sandbox: 0,125 núcleo e 128 MiB. Neste exemplo, nenhum limite foi definido, e o pedido mínimo foi suficiente.

A estrutura do tempo também é reveladora. Cerca de 33 segundos o agente esperou a resposta do modelo, e outras duas pausas de 60 segundos foram solicitadas por ele mesmo. Durante todo esse período, a sandbox ficou ociosa. Ao longo do processo, o agente inspecionou o repositório e o histórico do git, executou os testes, encontrou um teste que falhava, leu a classe HeaderDict da biblioteca bottle e ajustou as verificações de cabeçalhos. No fim, todos os 367 testes passaram. Os próprios testes levaram um ou dois segundos.

O que fazer na prática

A principal conclusão para quem constrói plataformas de agentes é não orçar a potência de pico para a sessão inteira. Primeiro, meça o perfil dos seus agentes:

  • quanto tempo eles esperam pelo modelo;
  • com que frequência executam compilações e testes;
  • quão altos são os picos de CPU e de memória.

Quanto maior a fatia de espera, maior o potencial ganho do esquema "pedido mínimo mais aceleração sob demanda". Se recursos garantidos forem críticos, o pedido pode ser aumentado, mas aí se trata de uma escolha consciente, e não do valor padrão. Como a Modal cobra pelo consumo acima do pedido, consulte a documentação e a tabela de preços: a fórmula detalhada não está no material analisado.

Limitações

Trata-se de uma publicação do próprio provedor, e o exemplo foi escolhido de forma ilustrativa: uma tarefa curta com pausas longas. Agentes que compilam projetos grandes ou executam testes pesados continuamente terão menos tempo ocioso, e a economia será mais modesta. O número "menos de 6% do pico de CPU por mais da metade do tempo" se refere a uma Sandbox típica na plataforma da Modal, ou seja, a um retrato médio. A sua carga pode ser diferente, e o material não traz medições independentes nem comparações com os preços de concorrentes.

Ainda assim, a direção é clara. As cargas de agentes são irregulares por natureza: longas pausas para raciocínio e curtos surtos de trabalho. Um modelo de cobrança que leva isso em conta parece mais justo do que alugar potência para o pico durante a sessão inteira. Para fundadores e product managers, isso é um motivo para recalcular a unit economics dos agentes com base na carga média; para engenheiros, é um item a mais na checklist ao escolher uma plataforma de sandboxes.

História

Perguntas frequentes sobre a notícia

Por que reservar para o pico não funciona para agentes?

Pegue um agente de programação. Ele opera em ciclo: o modelo decide o que fazer em seguida, o agente executa um comando, recebe o resultado e volta a esperar o modelo. Enquanto o modelo raciocina, a sandbox quase não faz nada. A carga dispara quando o agente instala dependências, executa testes ou compila o projeto. O mesmo padrão se repete em outros cenários comuns: rollouts de RL (execuções do agente para aprendizado por reforço), avaliações de modelos (evals) e construtores de aplicações.

O que mostra uma sessão real?

A Modal apresenta o registro de uma execução real numa tarefa do Terminal-Bench 2.1: "encontrar e corrigir uma vulnerabilidade em um repositório". O agente concluiu a tarefa em 2 minutos e 46 segundos e fez 10 chamadas ao modelo. O processador ficou praticamente em zero na maior parte do tempo, com picos curtos ao executar o pytest. A memória se manteve em cerca de 47 MiB. Ambos os indicadores couberam no pedido mínimo da sandbox: 0,125 núcleo e 128 MiB.

O que fazer na prática?

A principal conclusão para quem constrói plataformas de agentes é não orçar a potência de pico para a sessão inteira. Primeiro, meça o perfil dos seus agentes: quanto tempo eles esperam pelo modelo; com que frequência executam compilações e testes; quão altos são os picos de CPU e de memória. Quanto maior a fatia de espera, maior o potencial ganho do esquema "pedido mínimo mais aceleração sob demanda".

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Private AI Builders Community · Vibe Club

Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews

Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.

Join Vibe Club →Explore Hamidun Academy
O que você acha?
Carregando comentários…