Fractile capta 720 millones de dólares para chips que deben abaratar la ejecución de LLM

Cuando un agente de IA analiza la solicitud de un cliente, comprueba datos y prepara una respuesta, el modelo debe ejecutarse una y otra vez. Cada iteración añade latencia y costes. La británica Fractile ha captado 720 millones de dólares para construir chips especializados en la ejecución de modelos de IA. Su apuesta es colocar memoria DRAM sobre la parte de cómputo del chip y complementar el hardware con un compilador propio.

Es un problema de ingeniería claro: acelerar un modelo ya entrenado y reducir el coste de usarlo. Pero el resultado aún está por verificar. Según una declaración del director de Fractile, Walter Goodwin, citada por TechCrunch, la empresa pretende entregar los primeros chips y sistemas en 2027. La noticia es un motivo para seguir a un futuro proveedor de infraestructura; todavía no hay base para revisar el presupuesto de inferencia.

Por qué el dinero va a la memoria

Al ejecutar un LLM importan tanto el cálculo como el acceso a los datos del modelo. Si la parte de cómputo espera datos de la memoria, más capacidad de cálculo por sí sola no elimina la latencia. Para un equipo de producto esto se traduce en algo muy cotidiano: el usuario espera a que continúe la respuesta, mientras el servidor sigue ocupado.

Tras cambiar su enfoque técnico, Fractile apuesta por la DRAM, un tipo común de memoria de acceso aleatorio. Según TechCrunch, la empresa planea colocarla en capas sobre cada chip. La idea es suavizar las limitaciones que impiden lograr a la vez la capacidad de memoria necesaria y un acceso rápido a ella.

Imaginemos un agente que estudia varios documentos y comprueba sus conclusiones de forma secuencial. Necesita llamadas repetidas al modelo. Si el nuevo sistema acorta cada llamada, la ganancia puede acumularse a lo largo de toda la cadena. Sin embargo, esto explica un posible beneficio, no un resultado medido por Fractile: el artículo no ofrece cifras concretas de aceleración.

También importa qué parte de la tarea ocupa el propio modelo. Cuando un agente espera mucho tiempo a una base de datos externa o a la respuesta de un servicio de terceros, un chip más rápido tendrá menos efecto para el usuario. Por eso el futuro sistema habrá que probarlo con un flujo de trabajo real y completo.

El compilador debe conectar el modelo y el chip

Fractile también desarrolla un compilador de aprendizaje automático. Su función es preparar los cálculos del modelo para ejecutarlos de forma eficiente en su propio hardware. La empresa espera obtener una ventaja del diseño conjunto de hardware y software.

Para un desarrollador es un detalle esencial. Un nuevo acelerador tiene pocas posibilidades de convertirse en infraestructura útil si portar un modelo exige demasiado trabajo manual o si las operaciones necesarias se ejecutan de forma ineficiente. La velocidad de una demostración aislada no dice nada sobre la facilidad de operación.

Supongamos que un equipo mantiene un asistente de atención al cliente. Para evaluar un sistema así, tendrá que probar su propio modelo, los tamaños típicos de las solicitudes, la carga en paralelo y el coste final de procesar una consulta. Después, averiguar cuánto esfuerzo requiere el traslado y cómo se comporta el sistema en picos de demanda. En el material original no hay estos datos: ni lista de modelos compatibles, ni resultados de pruebas independientes, ni precio del equipo.

Qué significa la ronda para el mercado

La ronda Serie C fue liderada por Thrive Capital, Founders Fund, Lightspeed Venture Partners y Redpoint. Contó con el respaldo del fondo británico Sovereign AI Fund. Según el Gobierno del Reino Unido, la valoración de Fractile superó los 5.000 millones de libras. El Estado explica su participación por el deseo de aumentar la cuota del país en la infraestructura de hardware de la economía del futuro.

La escala de la financiación da a la empresa recursos para la siguiente etapa de desarrollo y las primeras entregas. También muestra el interés de los inversores por los chips especializados en inferencia. Pero el importe de la ronda no responde a la pregunta principal del comprador: cuánto costará ejecutar su tarea con la velocidad y la calidad necesarias.

La conclusión práctica para un fundador o un responsable de producto es entender de antemano su propia economía de inferencia: la latencia del escenario completo, el número de llamadas al modelo y el coste de una tarea completada con éxito. Con estas cifras se podrá evaluar Fractile de forma concreta cuando haya sistemas disponibles y resultados verificables. Por ahora, estamos ante una gran inversión en la promesa de reducir los costes de infraestructura, mientras que la prueba técnica de esa promesa aún está por llegar.