General Compute investit 300 millions de dollars dans SambaNova pour en faire le prochain leader des puces IA

General Compute, un nouveau fournisseur cloud pour le déploiement de modèles IA, a misé sur SambaNova comme prochain champion dans la course aux puces spécialisées. L'entreprise a commandé 300 millions de dollars de processeurs SambaNova SN50 pour l'inférence — un volume qui la positionne comme premier acheteur majeur de ces puces parmi les nouveaux fournisseurs cloud.

Un pari étrange sur un choix sûr

General Compute vient de lever 15 millions de dollars en série seed auprès de FUSE VC à une valorisation de 60 millions de dollars. Les co-fondateurs Finn Puklowski (PDG) et Jason Goodison (CTO) ont préféré ne pas entrer en concurrence pour les GPU NVIDIA déficitaires, mais ont plutôt développé leur propre stratégie. Plutôt que de rivaliser pour la capacité auprès de Groq ou Cerebras, l'entreprise a misé sur la startup soutenue par Intel SambaNova — un acteur moins connu mais prometteur.

SambaNova : vitesse de traitement triplée

Les chiffres techniques sont convaincants. Le SambaNova SN50 génère 600-700 jetons par seconde pour l'inférence, ce qui est environ trois fois plus rapide que les GPU standard (environ 250 jetons/sec). L'architecture promet de surpasser non seulement les GPU, mais aussi les puces spécialisées concurrentes de Groq et Cerebras — certes, dans le scénario étroit de l'inférence, où la vitesse est nécessaire mais pas l'entraînement de nouveaux modèles.

• Jetons/sec : 600-700 vs 250 sur GPU
• Refroidissement par air au lieu d'eau
• Consommation d'énergie inférieure à celle des concurrents
• Compatibilité avec l'infrastructure de data-center existante

Air au lieu d'eau

L'avantage opérationnel est souvent sous-estimé. Les puces SambaNova se refroidissent à l'air, pas à l'eau — c'est critique pour les data-centers qui ne sont pas prêts pour les mises à niveau coûteuses de l'infrastructure. Installer dans un rack serveur existant une puce qui ne nécessite pas de système de refroidissement liquide est une solution très pratique pour les opérateurs cloud.

Pourquoi tout cela au juste

L'étape d'inférence en IA est un défi distinct de la phase d'entraînement. Lorsqu'un modèle est déjà entraîné, il faut minimiser les latences dans les réponses aux utilisateurs et maximiser le débit. Sur cette toile de fond, Cerebras a récemment lancé une introduction en bourse à une valorisation de 57 milliards de dollars, et Groq a été acquis par NVIDIA pour 20 milliards de dollars en décembre. En d'autres termes, le marché croit que les puces spécialisées pour l'inférence ne sont pas un élément auxiliaire, mais un investissement sérieux.

Ce que cela signifie

General Compute a choisi SambaNova non pas parce que c'est la marque la plus établie. L'entreprise investit dans une architecture qui fonctionne mieux pour une tâche spécifique — l'inférence dans le cloud. Si SambaNova livre les chiffres promis de manière fiable, cela pourrait entraîner un changement dans les puces que les opérateurs choisissent. C'est le même type de mouvement que CoreWeave a fait avec NVIDIA, mais dans la direction opposée — avec un acteur moins établi mais potentiellement plus efficace.