General Compute aposta US$ 300 milhões na SambaNova como próxima líder em chips de IA

A General Compute, nova provedora de nuvem para implantar modelos de IA, apostou na SambaNova como a próxima campeã na corrida por chips especializados. A empresa encomendou US$ 300 milhões em processadores SambaNova SN50 para inferência, volume que a torna a primeira grande compradora desses chips entre as neoclouds.

Uma aposta estranha na escolha segura

A General Compute acabou de captar US$ 15 milhões em rodada seed da FUSE VC, com avaliação de US$ 60 milhões. Os fundadores Finn Puklowski (CEO) e Jason Goodison (CTO) preferiram não disputar as escassas GPUs da Nvidia e desenvolveram uma estratégia própria. Em vez de brigar por capacidade na Groq ou na Cerebras, a empresa apostou na SambaNova, startup apoiada pela Intel, menos famosa, porém promissora.

SambaNova: o triplo da velocidade de processamento

Os números técnicos soam convincentes. O SambaNova SN50 gera 600–700 tokens por segundo em inferência, cerca de três vezes mais rápido que GPUs comuns (aproximadamente 250 tokens/s). A arquitetura promete superar não só as GPUs, mas também os chips especializados de Groq e Cerebras, ainda que apenas no cenário restrito da inferência, em que velocidade importa e não é preciso treinar novos modelos.

• Tokens/s: 600–700 contra 250 em GPU
• Refrigeração a ar em vez de líquida
• Consumo de energia um nível abaixo dos concorrentes
• Compatibilidade com a infraestrutura existente dos data centers

Ar em vez de água

A vantagem operacional costuma ser subestimada. Os chips da SambaNova são refrigerados a ar, e não a água, o que é crucial para data centers que não estão prontos para upgrades caros de infraestrutura. Instalar num rack de servidor existente um chip que dispensa refrigeração líquida é uma solução bastante prática para operadores de nuvem.

Por que tudo isso importa

A inferência é um desafio distinto da fase de treinamento. Com o modelo já treinado, é preciso minimizar a latência das respostas aos usuários e maximizar a vazão. Nesse contexto, a Cerebras fez recentemente seu IPO com avaliação de US$ 57 bilhões, e a Groq foi comprada pela Nvidia por US$ 20 bilhões em dezembro. Ou seja, o mercado acredita que chips especializados para inferência não são um item secundário, mas um investimento sério.

O que isso significa

A General Compute escolheu a SambaNova não por ser a marca mais badalada. A empresa investe numa arquitetura que funciona melhor para uma tarefa específica: inferência na nuvem. Se a SambaNova entregar os números prometidos de forma confiável, isso pode mudar quais chips os operadores escolhem. É a mesma jogada que a CoreWeave fez com a Nvidia, mas no sentido oposto, com um player menos desgastado e potencialmente mais eficiente.