Início 23/11Turma 3 ao vivo de Vibe Coding & Agentes de IA: 3 semanas, 9 aulas ao vivoTurma 3 (23/11) →
LançamentoAnálise · No radarX: @ZeeshhDecodes→ original

Rubin entrega 50 PFLOPS por chip e o TPU 8t, 12,6, mas o Google compensa na escala

Nvidia e Google fabricam chips para IA. Pelos dados de especificação, um Nvidia Rubin entrega até 50 PFLOPS (50 quadrilhões de operações por segundo), enquanto o Google TPU 8t chega a 12,6, ou seja, cerca de 4 vezes menos. O Google, porém, aposta no volume: um superpod (um cluster gigante) reúne 9 600 chips TPU 8t, enquanto um rack da Nvidia comporta 72 GPUs. Os laboratórios não compram chips, compram token barato. Por isso, compare o preço por milhão de tokens na sua própria carga de trabalho, e não o pico do datasheet.

Processado por IA de X: @ZeeshhDecodes; editado por Hamidun News
Rubin entrega 50 PFLOPS por chip e o TPU 8t, 12,6, mas o Google compensa na escala
Fonte: X: @ZeeshhDecodes. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalX: @ZeeshhDecodes ↗
Editor-chefe
Rubin50 PFLOPS por chip; TPU 8t: 12,6. A diferença é de cerca de 4 vezes
Superpod do Google9 600 chips; rack da Nvidia: 72 GPUs
Dado-chave #3Os laboratórios calculam o custo do token, não o pico do chip

Quando um novo acelerador de IA chega ao mercado, a internet logo compara tabelas: quem tem mais PFLOPS (quadrilhões de operações por segundo). O autor do canal AI Decoded (@ZeeshhDecodes) comparou o Nvidia Rubin e o Google TPU 8t. Pelo pico declarado, um Rubin entrega 50 PFLOPS e um TPU 8t, 12,6, ou seja, a Nvidia é cerca de 4 vezes mais rápida.

Mas o Google responde com escala: um superpod (cluster interconectado) de TPU 8t reúne 9 600 chips, enquanto um rack da Nvidia comporta 72 GPUs. Na prática, escolher uma nuvem pelo número de um único chip não faz sentido: o que importa é o preço do token, isto é, o custo de cada pedacinho de texto que o modelo entrega ao usuário.

O que mostram os números por chip

O autor se baseia nas páginas de especificações. O Nvidia Rubin é anunciado com pico de 50 PFLOPS por chip. O Google TPU 8t aparece na lista com 12,6 PFLOPS. Se um laboratório comprasse um único acelerador e o colocasse sobre a mesa, a escolha seria óbvia: no duelo chip a chip, a Nvidia continua ganhando, e o autor reconhece isso com franqueza.

Só que esses chips não ficam sobre a mesa. Modelos grandes são treinados e servidos em centenas e milhares de aceleradores conectados entre si, e é aí que o cenário muda.

Onde o Google recupera terreno

Segundo o post, um superpod de TPU 8t reúne 9 600 chips, e um rack da Nvidia comporta 72 GPUs. Multiplicando os picos de forma grosseira, chega-se a cerca de 121 000 PFLOPS (aproximadamente 121 EFLOPS) por superpod, contra 3 600 PFLOPS (3,6 EFLOPS) por rack. A comparação não é totalmente justa: o superpod é uma unidade completa de infraestrutura, enquanto o rack é apenas uma parte dela. Mesmo assim, ela deixa clara a lógica do Google: em vez de vencer a Nvidia no chip individual, montar um sistema coeso muito grande e competir no preço.

O autor resume assim: o Google joga na escala e no preço. O chip é mais fraco, mas há muitos deles, e são próprios, sem a margem de um fornecedor externo. O ponto forte da Nvidia é a densidade de computação: 72 GPUs potentes em um único rack.

Por que o custo do token importa

A tese central do post: os laboratórios não compram chips, compram custo por token. É nessa unidade que contam o dinheiro quem vende acesso a um modelo ou o roda em produção. Grosso modo, o cálculo é este: o preço do hardware e do seu aluguel por hora, mais energia elétrica e refrigeração, mais rede, divididos pelo número de tokens que o sistema de fato entregou naquela hora.

Os PFLOPS de pico dizem pouco sobre isso:

  • Utilização real. O pico no papel quase nunca é atingido: memória, rede entre os chips e qualidade da pilha de software pesam muito.
  • Formato de computação. Os números de pico dependem da precisão (por exemplo, FP8 ou FP4). O post não esclarece isso, então 50 e 12,6 não podem ser tratados como totalmente comparáveis sem conferir a documentação.
  • Preço de compra e energia. Um chip quatro vezes mais fraco, mas bem mais barato e mais econômico no consumo de energia, pode entregar o token a um custo menor.
  • Software. Ferramentas familiares muitas vezes pesam mais do que PFLOPS extras.

O que fazer na prática

Se você está escolhendo uma nuvem ou um provedor de inferência, não compare o pico teórico. Rode o seu modelo com o seu comprimento de contexto e o seu tráfego real, depois calcule o preço por milhão de tokens e a latência de resposta. Na Nvidia, talvez seja mais rápido; no TPU, mais barato. Só a medição na sua carga de trabalho vai decidir.

Se a economia do seu produto depende de um token barato, ficar preso a um único lado é um risco, e vale testar as duas plataformas.

Limitações

Este é um breve ponto de vista pessoal publicado em uma rede social, e não um benchmark independente. Os números vêm de páginas de especificações, ou seja, são o pico declarado, e não a velocidade medida de treinamento ou de inferência. O post não traz o custo real do token para o Rubin e o TPU 8t, e é justamente ele que decide a disputa.

História

Perguntas frequentes sobre a notícia

O que mostram os números por chip?

O autor se baseia nas páginas de especificações. O Nvidia Rubin é anunciado com pico de 50 PFLOPS por chip. O Google TPU 8t aparece na lista com 12,6 PFLOPS. Se um laboratório comprasse um único acelerador e o colocasse sobre a mesa, a escolha seria óbvia: no duelo chip a chip, a Nvidia continua ganhando, e o autor reconhece isso com franqueza. Só que esses chips não ficam sobre a mesa. Modelos grandes são treinados e servidos em centenas e milhares de aceleradores conectados entre si, e é aí que o cenário muda.

Onde o Google recupera terreno?

Segundo o post, um superpod de TPU 8t reúne 9 600 chips, e um rack da Nvidia comporta 72 GPUs. Multiplicando os picos de forma grosseira, chega-se a cerca de 121 000 PFLOPS (aproximadamente 121 EFLOPS) por superpod, contra 3 600 PFLOPS (3,6 EFLOPS) por rack. A comparação não é totalmente justa: o superpod é uma unidade completa de infraestrutura, enquanto o rack é apenas uma parte dela.

Por que o custo do token importa?

A tese central do post: os laboratórios não compram chips, compram custo por token. É nessa unidade que contam o dinheiro quem vende acesso a um modelo ou o roda em produção. Grosso modo, o cálculo é este: o preço do hardware e do seu aluguel por hora, mais energia elétrica e refrigeração, mais rede, divididos pelo número de tokens que o sistema de fato entregou naquela hora. Os PFLOPS de pico dizem pouco sobre isso: Utilização real.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Private AI Builders Community · Vibe Club

Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews

Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.

Join Vibe Club →Explore Hamidun Academy
O que você acha?
Carregando comentários…