Compute
Compute, em contextos de IA, refere-se aos recursos computacionais — principalmente poder de processamento de GPU ou TPU, memória e infraestrutura de suporte — necessários para treinar e executar modelos de IA. É o recurso primário limitante e o principal impulsionador de custos no desenvolvimento de IA de fronteira.
Na pesquisa e indústria de IA, "compute" é uma abreviação para os recursos de hardware agregados consumidos para executar as operações matemáticas — principalmente multiplicações de matrizes — no núcleo do treinamento e inferência de redes neurais. É mais frequentemente quantificado como operações de ponto flutuante totais (FLOPs) para uma execução de treinamento, ou como horas de GPU ou horas de chip consumidas. Ao contrário de dados ou design de algoritmos, os outros dois insumos canônicos para o progresso da IA, compute é comprado diretamente com capital e escala de forma relativamente previsível com investimento, tornando-o um alavanca econômica e um ativo estratégico.
O compute de treinamento depende de três fatores: contagem de parâmetros do modelo, número de tokens de treinamento processados e a eficiência do stack de hardware e software. O documento de escala Chinchilla do DeepMind (2022) estabeleceu diretrizes fundamentadas para alocar um orçamento de compute fixo entre tamanho de modelo e tamanho do conjunto de dados. Uma execução de treinamento de modelo de linguagem de fronteira processa trilhões de tokens ao longo de semanas a meses em clusters de milhares de aceleradores. Compute de inferência — o custo de servir um modelo por consulta — é menor por solicitação, mas pode agregar totalizações comparáveis ou que excedem o compute de treinamento uma vez que um modelo amplamente utilizado é implantado em escala.
A disponibilidade de compute se tornou uma variável geopolítica. Aceleradores avançados de IA — principalmente GPUs NVIDIA H100, H200 e série Blackwell — são fabricados por um pequeno número de empresas usando processos de fabricação concentrados na TSMC em Taiwan. Os controles de exportação dos EUA promulgados em outubro de 2022 e expandidos em rodadas subsequentes restringem a venda de chips de IA de alto desempenho para a China e certos outros países, direcionando explicitamente o acesso ao compute. Esses controles afetaram diretamente quais organizações podem prosseguir com execuções de treinamento de fronteira e aceleraram programas de desenvolvimento de acelerador doméstico na China e na União Europeia.
Em 2026, os maiores clusters de treinamento de IA contêm dezenas de milhares de GPUs NVIDIA B200 ou H200 ou aceleradores personalizados equivalentes, representando despesa de capital variando de centenas de milhões a mais de um bilhão de dólares por cluster. Microsoft, Google, Meta, Amazon e xAI cada um anunciou ou implantou data centers nesta escala para cargas de trabalho de IA. Os provedores de nuvem oferecem compute sob demanda ou como capacidade reservada, com mercados spot que flutuam com a demanda. Melhorias de eficiência algorítmica — arquiteturas de mistura de especialistas, curadoria de dados melhor e receitas de treinamento otimizadas — moderaram parcialmente os requisitos de compute por unidade de qualidade do modelo, mas o consumo total de compute da indústria continua crescendo ano após ano.