Google lança TPU 8tx e 8i Max: treinamento seguro e o dobro de memória

Se você executa modelos na nuvem, provavelmente tem duas dores antigas. A primeira: é preciso entregar dados sensíveis e pesos do modelo a uma infraestrutura de terceiros, e os times jurídico e de segurança não ficam nada satisfeitos com isso. A segunda: requisições longas esbarram na memória do acelerador. Na segunda-feira, o Google mostrou dois novos chips que miram justamente esses problemas: TPU 8tx e TPU 8i Max.

O que exatamente foi lançado

Ambos os chips fazem parte da oitava geração de TPU, que o Google apresentou em abril. Naquela ocasião, a linha incluía a TPU 8t para treinamento em grande escala e a TPU 8i para inferência. Agora ela se expande para dois cenários específicos.

A TPU 8tx é construída sobre a 8t e foi desenvolvida em conjunto com a AMD. Destina-se ao treinamento e à execução confidenciais de modelos. Segundo o Google, a proteção está embutida diretamente no nível de hardware: dados sensíveis e pesos do modelo permanecem isolados e protegidos mesmo durante a operação ativa. Normalmente criptografam-se os dados em disco e em trânsito, mas durante o cálculo eles ficam expostos. Aqui, declara-se proteção justamente nessa etapa.

A TPU 8i Max é mais simples: são, na prática, dois chips 8i em um único encapsulamento. Memória, poder de computação e largura de banda são dobrados. Para o desenvolvedor, isso significa que o modelo pode manter em uso um volume maior de informações em uma única requisição.

Treinamento e inferência no mesmo hardware

A 8tx tem mais uma particularidade. Trata-se de uma rede especial para inferência que permite executar o modelo em paralelo ao treinamento. O Google sugere usá-la para destilação e para treinar modelos pequenos em tempo real.

Imagine um banco ou uma clínica. Eles têm dados fechados com os quais é preciso refinar um modelo compacto para a sua tarefa. Normalmente isso significa mover dados entre diferentes dispositivos: treinamento em alguns, verificação e inferência em outros. Cada transferência aumenta a superfície de ataque e o volume de aprovações. O Google afirma que, na 8tx, não é preciso mover os dados: o modelo aprende e responde no mesmo dispositivo, dentro de um perímetro protegido.

Agora, sobre a 8i Max. Se o seu serviço trabalha com documentos longos, grandes bases de código ou cenários de agentes com várias etapas, a memória costuma ser a principal limitação. Em vez de dividir o modelo ou o contexto entre vários chips, é possível usar um único chip com recursos dobrados. Menos transferências entre chips normalmente significa uma arquitetura de implantação mais simples, embora o Google não apresente números concretos de latência no anúncio.

Por que o Google faz isso e o que você deve fazer

Isso faz parte da grande corrida pela independência da Nvidia. O Google cria suas próprias TPUs para depender menos de chips de terceiros em seu negócio de nuvem. Microsoft e Amazon, assim como laboratórios como OpenAI e Anthropic, também trabalham em seus próprios chips de IA e no software associado. A aposta do Google é clara: se o processamento confidencial de dados e uma grande quantidade de memória se tornarem argumentos a favor das TPUs, isso ajudará a vender a nuvem para empresas que valorizam a confidencialidade.

As limitações também merecem atenção. O anúncio não traz prazos de disponibilidade, preços nem medições independentes. As declarações sobre a proteção de pesos e dados continuam sendo declarações do Google, e a verificação por auditores ainda está por vir. E, como sempre com as TPUs, você fica preso à stack do Google, e migrar para GPUs exigirá trabalho.

A conclusão prática é esta.

• Se você atua em um setor regulado e treina modelos com dados fechados, acompanhe a disponibilidade da TPU 8tx e peça ao Google detalhes sobre o modelo de ameaças e a certificação.
• Se a memória está sufocando você em contextos longos, teste a 8i Max nas suas cargas de trabalho assim que houver preços e acesso.
• Se você está escolhendo uma plataforma para o próximo ano ou dois, considere que as grandes nuvens estão ganhando alternativas reais à Nvidia, o que significa margem para negociar.

Por enquanto, o anúncio é mais uma candidatura do que um resultado. Mas a direção é clara: os provedores de nuvem começam a competir não só por poder de processamento, mas também pela tranquilidade com que se pode confiar a eles os próprios dados.