Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)

Epoch AI: a capacidade dos chips de IA para agentes cresceu 4,6 vezes em um ano

A Epoch AI calculou que, em um ano, a capacidade de todos os chips de IA vendidos para atender agentes cresceu 4,6 vezes, enquanto a computação de pico subiu apenas 2,6 vezes. Um agente precisa manter no cache 262 mil tokens de contexto, então memória e interconexão entre chips pesam mais. Nesse quesito, a Blackwell, que responde por cerca de 73% da capacidade, está bem à frente. Por isso, ao escolher hardware para agentes, compare memória e interconexão, não os FLOPS de especificação.

Processado por IA de TG: @ai_machinelearning_big_data (Machinelearning); editado por Hamidun News
Epoch AI: a capacidade dos chips de IA para agentes cresceu 4,6 vezes em um ano
Fonte: TG: @ai_machinelearning_big_data (Machinelearning). Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalTG: @ai_machinelearning_big_data (Machinelearning) ↗
Editor-chefe
Dado-chave #1O GB300 atende 25 vezes mais requisições de agentes que o H100, com 2,5× nos FLOPS
Dado-chave #2A velocidade real do GB300 no Kimi K3 é cerca de metade da calculada
Dado-chave #3Do GB300 para o VR200, o ganho por GPU é de apenas 2,2 vezes, contra 8 do H200 para o GB300

Quando uma equipe escolhe hardware para agentes de IA, em geral olha os teraflops de pico da especificação. O novo cálculo da Epoch AI mostra que, para tarefas de agentes, esse número distorce bastante o cenário. A organização de pesquisa avaliou como mudou todo o parque de chips de IA vendidos do segundo trimestre de 2025 ao segundo trimestre de 2026. A capacidade de atender inferência de agentes cresceu 4,6 vezes. Já a capacidade computacional de pico em operações de oito bits subiu apenas 2,6 vezes.

Considerando a incerteza nos dados de remessas e na composição do hardware, a Epoch apresenta um intervalo de confiança de 90%: o crescimento ficou entre 4,2 e 5,1 vezes. Ou seja, mesmo na estimativa mais conservadora, o parque aumentou sua capacidade para agentes em mais de quatro vezes.

Por que a capacidade para agentes cresce mais rápido que os teraflops

A Epoch mede essa capacidade com um índice próprio, o IPI. Ele mostra quantas requisições um chip consegue atender ao mesmo tempo em uma tarefa típica de agente. Nessa tarefa, o modelo mantém no cache 262 mil tokens de contexto: histórico de passos, documentos, resultados de ferramentas. Além disso, a cada requisição, ele processa cerca de mil tokens novos.

Imagine um bibliotecário que tem sobre a mesa uma pilha enorme de papéis de cada leitor. A velocidade de leitura dele quase não importa. O que conta é quantas pilhas cabem na mesa, com que rapidez ele encontra a certa e com que facilidade a passa para um colega. Com os chips é igual: o que decide é a capacidade e a largura de banda da memória, a interconexão entre chips e a habilidade de calcular em precisão reduzida. A aritmética bruta fica em segundo plano.

Daí as grandes diferenças entre gerações. Pelo índice da Epoch, o GB300 é 25 vezes mais potente que o H100 e 8 vezes mais potente que o H200. Nas operações de pico de oito bits, o GB300 supera o H100 em apenas 2,5 vezes. Até meados de 2026, os chips Nvidia das gerações Blackwell e Blackwell Ultra respondiam por cerca de 73% de toda a capacidade do parque para agentes. Ao mesmo tempo, eles representavam apenas metade da computação de pico.

O que o índice não considera

A estimativa tem uma limitação importante. O IPI se baseia em um modelo teórico dos limites do hardware e não leva em conta a maturidade da pilha de software. A Epoch o testou no modelo Kimi K3: o throughput real do GB300 ficou cerca de metade do calculado. Portanto, os números devem ser lidos como um teto que o software ainda precisa alcançar. A rapidez com que isso acontecerá depende dos frameworks específicos e das equipes que os ajustam.

Além disso, a estimativa se refere especificamente a cargas de agentes com contexto longo. Para requisições curtas de chat ou para treinamento de modelos, as proporções entre os chips podem ser diferentes.

O crescimento vai desacelerar

A Epoch não espera que o parque continue crescendo nesse ritmo. Os chips vendidos no segundo trimestre de 2026 adicionaram 3,3 vezes mais capacidade para agentes do que os vendidos no segundo trimestre de 2025. É um aumento claramente menor que o do parque inteiro no mesmo ano.

O motivo é que muitas das maiores melhorias vieram na transição da Hopper para a Blackwell. Pelo modelo da Epoch, a capacidade por GPU cresce 8 vezes na passagem do H200 para o GB300. Do GB300 para o VR200, plataforma da próxima geração com GPU Rubin, o ganho é de apenas 2,2 vezes. Será mais difícil repetir o salto proporcionado pela memória e pela interconexão da Blackwell.

O que fazer na prática

Primeiro: ao planejar infraestrutura para agentes, compare os chips por capacidade e velocidade de memória, interconexão entre chips e suporte a baixa precisão. Os FLOPS de especificação servem para estimar treinamento, mas descrevem mal o contexto longo.

Segundo: reserve uma margem para o software. Se o throughput real é metade do calculado, a escolha do framework e o ajuste dele podem pesar no custo por requisição tanto quanto a escolha da geração do chip.

Terceiro: não conte com o mesmo ritmo de crescimento da capacidade barata para agentes. Esperar as próximas gerações trará um ganho menor do que a migração da Hopper para a Blackwell. Para quem esbarrou no custo de inferência, é mais sensato otimizar contexto e cache já, sem esperar a Rubin.

História

Perguntas frequentes sobre a notícia

Por que a capacidade para agentes cresce mais rápido que os teraflops?

A Epoch mede essa capacidade com um índice próprio, o IPI. Ele mostra quantas requisições um chip consegue atender ao mesmo tempo em uma tarefa típica de agente. Nessa tarefa, o modelo mantém no cache 262 mil tokens de contexto: histórico de passos, documentos, resultados de ferramentas. Além disso, a cada requisição, ele processa cerca de mil tokens novos. Imagine um bibliotecário que tem sobre a mesa uma pilha enorme de papéis de cada leitor. A velocidade de leitura dele quase não importa.

O que o índice não considera?

A estimativa tem uma limitação importante. O IPI se baseia em um modelo teórico dos limites do hardware e não leva em conta a maturidade da pilha de software. A Epoch o testou no modelo Kimi K3: o throughput real do GB300 ficou cerca de metade do calculado. Portanto, os números devem ser lidos como um teto que o software ainda precisa alcançar. A rapidez com que isso acontecerá depende dos frameworks específicos e das equipes que os ajustam.

O que se sabe sobre O crescimento vai desacelerar?

A Epoch não espera que o parque continue crescendo nesse ritmo. Os chips vendidos no segundo trimestre de 2026 adicionaram 3,3 vezes mais capacidade para agentes do que os vendidos no segundo trimestre de 2025. É um aumento claramente menor que o do parque inteiro no mesmo ano. O motivo é que muitas das maiores melhorias vieram na transição da Hopper para a Blackwell. Pelo modelo da Epoch, a capacidade por GPU cresce 8 vezes na passagem do H200 para o GB300.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…