Google prepara novos chips de IA para inferência e desafia a Nvidia

O Google está desafiando a Nvidia. A empresa desenvolve uma nova geração de chips de IA próprios voltados à inferência, a etapa final de funcionamento das redes neurais, quando o modelo já treinado processa as solicitações dos usuários em tempo real. Chips de inferência são fundamentalmente diferentes dos usados no treinamento de modelos.

Treinar grandes sistemas de linguagem exige meses de computação em milhares de GPUs e representa um gasto de capital pontual. Já a inferência é uma carga contínua: toda vez que um usuário envia uma solicitação ao Gemini, ao ChatGPT ou a qualquer outro serviço de IA, um chip executa a inferência. À medida que os aplicativos de IA alcançam centenas de milhões de usuários, são justamente os custos de inferência que se tornam o principal item de despesa das empresas de tecnologia.

Segundo algumas estimativas, até 2027 eles vão superar os custos de treinamento em três a quatro vezes. O Google constrói sua própria estratégia de silício há bastante tempo. A empresa desenvolve as TPUs (Tensor Processing Units) desde 2015, muito antes de os chips de IA virarem manchete.

Até agora, esses processadores eram usados principalmente dentro do Google Cloud e no treinamento dos modelos Gemini. Agora, a empresa pretende criar hardware especializado especificamente para inferência, com maior throughput e menor consumo de energia por solicitação. Para a Nvidia, cujos chips H100 e H200 se tornaram o padrão dos data centers no mundo todo, trata-se de um desafio direto.

O Google é um dos maiores compradores da Nvidia no mundo, e migrar ao menos parte da carga para hardware próprio significa perdas consideráveis para a empresa de Santa Clara. Enquanto isso, outro acontecimento se desenha no setor de chips de IA: a Cerebras Systems anunciou planos de abrir capital. A empresa é conhecida por seu produto principal, o Wafer-Scale Engine, que é basicamente um wafer de silício inteiro funcionando como um único processador.

Essa arquitetura elimina a latência na transferência de dados entre chips separados e acelera o processamento de modelos grandes. A Cerebras já havia tentado fazer um IPO antes, mas retirou o pedido. A volta ao caminho da bolsa é um sinal para o mercado: apesar do esfriamento de parte dos investidores de IA, arquiteturas alternativas de chips continuam sendo vistas como um ativo promissor.

A empresa posiciona suas soluções como especialmente eficientes para rodar modelos abertos em ambientes corporativos fechados, um segmento que cresce rapidamente diante das exigências de segurança e soberania de dados. A terceira história da semana vem do espaço. A Blue Origin lançou com sucesso o foguete New Glenn e pousou seu propulsor reutilizável, um marco técnico importante no caminho para reduzir o custo dos lançamentos.

No entanto, a carga útil, um satélite da AST SpaceMobile, não chegou à órbita prevista. A AST SpaceMobile está construindo uma rede global de internet banda larga que funciona diretamente em smartphones, sem terminais especiais. O fracasso orbital teve reflexo imediato nas cotações: as ações da empresa caíram.

O mercado lembrou mais uma vez que, no espaço, sucesso técnico e resultado comercial são coisas diferentes. Juntas, as três notícias traçam um retrato da economia de tecnologia em meados da década de 2020. A corrida dos chips de IA vai além do duopólio: além de Nvidia e AMD, gigantes de tecnologia com silício próprio e startups especializadas como a Cerebras entram na disputa pela infraestrutura.

A questão de quem vai controlar a infraestrutura física da era da IA continua em aberto.