General Compute apuesta 300 millones de dólares por SambaNova como el próximo líder de chips de IA

General Compute, un nuevo proveedor de nube para desplegar modelos de IA, ha apostado por SambaNova como el próximo campeón en la carrera por los chips especializados. La compañía encargó procesadores SambaNova SN50 para inferencia por 300 millones de dólares, un volumen que la convierte en la primera gran compradora de estos chips entre las neonubes.

Una extraña apuesta por la opción segura

General Compute acaba de cerrar una ronda semilla de 15 millones de dólares liderada por FUSE VC, con una valoración de 60 millones. Los fundadores, Finn Puklowski (CEO) y Jason Goodison (CTO), decidieron no competir por las escasas GPU de Nvidia y desarrollaron su propia estrategia. En lugar de pelear por capacidad en Groq o Cerebras, la empresa apostó por SambaNova, una startup respaldada por Intel, menos conocida pero prometedora.

SambaNova: el triple de velocidad de procesamiento

Las cifras técnicas suenan convincentes. El SambaNova SN50 genera 600–700 tokens por segundo en inferencia, aproximadamente tres veces más rápido que las GPU estándar (unos 250 tokens/s). Su arquitectura promete superar no solo a las GPU, sino también a los chips especializados de Groq y Cerebras, aunque solo en el escenario acotado de la inferencia, donde se necesita velocidad pero no entrenar nuevos modelos.

• Tokens/s: 600–700 frente a 250 en una GPU
• Refrigeración por aire en lugar de líquida
• Consumo energético un nivel por debajo de la competencia
• Compatibilidad con la infraestructura existente de los centros de datos

Aire en lugar de agua

La ventaja operativa suele subestimarse. Los chips de SambaNova se enfrían por aire, no por agua, algo clave para los centros de datos que no están preparados para costosas mejoras de infraestructura. Instalar en un rack de servidores existente un chip que no necesita refrigeración líquida es una solución muy práctica para los operadores de nube.

Por qué importa todo esto

La inferencia es un desafío distinto al del entrenamiento. Una vez entrenado el modelo, hay que minimizar la latencia de las respuestas a los usuarios y maximizar el rendimiento. En este contexto, Cerebras salió recientemente a bolsa con una valoración de 57.000 millones de dólares, y Nvidia compró Groq por 20.000 millones de dólares en diciembre. Es decir, el mercado cree que los chips especializados para inferencia no son una partida secundaria, sino una inversión seria.

Qué significa

General Compute eligió SambaNova no porque sea la marca más de moda. La empresa invierte en una arquitectura que funciona mejor para una tarea concreta: la inferencia en la nube. Si SambaNova cumple las cifras prometidas de forma fiable, podría cambiar los chips que eligen los operadores. Es la misma jugada que hizo CoreWeave con Nvidia, pero en sentido contrario, con un actor menos rodado pero potencialmente más eficiente.