El fabricante de chips Groq capta 650 millones de dólares y se vuelca en la inferencia de IA

Groq, un fabricante de chips centrado en la IA, capta 650 millones de dólares en una nueva ronda de financiación y pasa de producir hardware a desarrollar software para inferencia de IA: acelerar y optimizar cómo los sistemas de inteligencia artificial procesan y responden a las consultas.

Qué ocurre con Groq

Groq es conocida por sus procesadores especializados para cargas de trabajo de IA. La compañía creció sobre la idea de que el hardware diseñado para redes neuronales rinde bastante mejor que los procesadores generalistas, como las GPU de Nvidia. Ahora Groq da un giro: destina recursos importantes a una capa de software que se ejecuta sobre el hardware y hace la inferencia de IA más rápida y barata.

Esto no significa que Groq abandone el hardware. Más bien replantea dónde está el dinero real y dónde se crea valor para los clientes.

Los 650 millones de dólares de financiación son una señal contundente. Los inversores creen que Groq puede reunir un equipo y liderar esta nueva línea.

¿Por qué la inferencia?

La inferencia es el cuello de botella de la IA en producción. Entrenar un modelo es caro y lleva meses, pero ocurre pocas veces. Ejecutar el modelo ya entrenado (inferencia), miles de veces al día para millones de usuarios, es rutina y escala. Cuanto más rápido responde un modelo, mejor es la experiencia de usuario y menores los costes operativos.

Groq ve dónde duele más:

• La inferencia supone aproximadamente el 80% del coste de mantener sistemas de IA en producción
• Incluso una aceleración del 10% equivale a millones de dólares de ahorro anual en grandes volúmenes
• El software puede multiplicar la velocidad si se optimiza correctamente el cálculo para un hardware concreto

El mercado de chips ya está saturado

La industria de chips de IA recibe un flujo récord de capital. Nvidia ejerce un monopolio, pero AMD, Google (TPU), Intel, Apple y una decena de startups financiadas con capital riesgo (Cerebras, Graphcore, SambaNova y otras) desarrollan sus propias variantes. El resultado: el hardware se abarata y la producción se vuelve en serie. Los márgenes caen.

Groq no puede ganar una guerra limpia en el terreno del hardware puro. Hay demasiado dinero y demasiada experiencia arraigada en los actores consolidados. Pero el software es otro juego. Va de algoritmos, de cómo organizar el cálculo, de la fusión de operaciones, de optimizar para las particularidades de un hardware y una tarea concretos (inferencia de LLM, cálculo de embeddings, fine-tuning). Aquí pueden darse márgenes altos, soluciones difíciles de abandonar y barreras de entrada.

Qué significa

Groq no está sola. Otros fabricantes especializados (e incluso gigantes como Nvidia) también invierten en software de inferencia. Es una señal de giro en la industria de la IA: el hardware se vuelve commodity y el dinero va adonde se crea valor, en la optimización y la facilidad de uso.

Para las empresas, esto implica que elegir chip puede importar menos que elegir la pila de software adecuada para inferencia. Su proveedor de hardware de IA puede resultar interesante pronto no como fabricante de chips, sino como proveedor de experiencia y herramientas para ejecutar modelos.