General Compute apuesta $300 millones en SambaNova como el próximo líder en chips de IA

General Compute, nuevo proveedor en la nube para el despliegue de modelos de IA, ha apostado por SambaNova como el próximo campeón en la carrera por chips especializados. La empresa ha realizado un pedido de $300 millones en procesadores SambaNova SN50 para inferencia —un volumen que la posiciona como el primer gran comprador de estos chips entre los nuevos proveedores en la nube.

Una apuesta inusual por la opción segura

General Compute acaba de cerrar una ronda seed de $15 millones de FUSE VC con una valoración de $60 millones. Los fundadores Finn Puklowski (CEO) y Jason Goodison (CTO) decidieron no competir por los escasos GPUs de Nvidia, sino que desarrollaron su propia estrategia. En lugar de luchar por capacidad con Groq o Cerebras, la empresa apostó por la startup respaldada por Intel SambaNova —un jugador menos famoso pero prometedor.

SambaNova: velocidad de procesamiento triplicada

Las cifras técnicas suenan convincentes. SambaNova SN50 genera 600–700 tokens por segundo para inferencia, aproximadamente tres veces más rápido que los GPUs estándar (aproximadamente 250 tokens/seg). La arquitectura promete superar no solo los GPUs, sino también los chips especializados de Groq y Cerebras —aunque solo en el escenario limitado de inferencia, donde se necesita velocidad pero no se requiere entrenamiento de nuevos modelos.

• Tokens/seg: 600–700 vs 250 en GPU
• Enfriamiento por aire en lugar de por agua
• Consumo de energía por debajo del de los competidores
• Compatibilidad con la infraestructura existente del centro de datos

Aire en lugar de agua

La ventaja operativa a menudo se subestima. Los chips SambaNova se enfrían por aire, no por agua —esto es crítico para los centros de datos que no están preparados para costosas actualizaciones de infraestructura. Instalar en un servidor existente un chip que no requiere un sistema de enfriamiento líquido es una solución muy práctica para los operadores de nube.

Por qué todo esto es importante

La etapa de inferencia en IA es un desafío diferente de la fase de entrenamiento. Una vez que el modelo está entrenado, es necesario minimizar la latencia en las respuestas a los usuarios y maximizar el rendimiento. En este contexto, Cerebras recientemente realizó una OPI valorada en $57 mil millones, y Groq fue adquirida por Nvidia por $20 mil millones en diciembre. En otras palabras, el mercado cree que los chips especializados para inferencia no son un gasto auxiliar, sino una inversión seria.

Qué significa esto

General Compute eligió SambaNova no porque sea la marca más promocionada. La empresa está invirtiendo en una arquitectura que funciona mejor para una tarea específica —inferencia en la nube. Si SambaNova cumple de manera confiable con los números prometidos, podría llevar a un cambio en los chips que eligen los operadores. Es el mismo movimiento que hizo CoreWeave con Nvidia, pero en la dirección opuesta —con un jugador menos desgastado pero potencialmente más eficiente.