Fractile capta US$ 720 milhões para chips que devem baratear a execução de LLMs

Quando um agente de IA analisa a solicitação de um cliente, verifica dados e prepara uma resposta, o modelo precisa ser executado repetidamente. Cada iteração acrescenta latência e custos. A britânica Fractile captou US$ 720 milhões para construir chips especializados na execução de modelos de IA. Sua aposta é posicionar memória DRAM sobre a parte de computação do chip e complementar o hardware com um compilador próprio.

É um problema de engenharia claro: acelerar um modelo já treinado e reduzir o custo de usá-lo. Mas o resultado ainda precisa ser verificado. Segundo declaração do CEO da Fractile, Walter Goodwin, citada pelo TechCrunch, a empresa pretende entregar os primeiros chips e sistemas em 2027. A notícia é um motivo para acompanhar um futuro fornecedor de infraestrutura; ainda não há base pronta para rever o orçamento de inferência.

Por que o dinheiro vai para a memória

Na execução de um LLM, importam tanto o cálculo quanto o acesso aos dados do modelo. Se a parte de computação espera dados da memória, mais capacidade de cálculo por si só não elimina a latência. Para uma equipe de produto isso aparece de forma bem corriqueira: o usuário espera a continuação da resposta, enquanto o servidor permanece ocupado.

Após mudar sua abordagem técnica, a Fractile aposta na DRAM, um tipo comum de memória de acesso aleatório. Segundo o TechCrunch, a empresa planeja posicioná-la em camadas sobre cada chip. A ideia é aliviar as limitações que impedem obter ao mesmo tempo a capacidade de memória necessária e acesso rápido a ela.

Imagine um agente que estuda vários documentos e verifica suas conclusões em sequência. Ele precisa de chamadas repetidas ao modelo. Se o novo sistema reduzir o tempo de cada chamada, o ganho pode se acumular ao longo de toda a cadeia. No entanto, isso explica um possível benefício, não um resultado medido pela Fractile: o artigo não apresenta números concretos de aceleração.

Também importa que parte da tarefa é ocupada pelo próprio modelo. Quando um agente espera muito por um banco de dados externo ou pela resposta de um serviço de terceiros, um chip mais rápido terá menos efeito para o usuário. Por isso, o futuro sistema precisará ser testado em um fluxo de trabalho real e completo.

O compilador deve conectar o modelo e o chip

A Fractile também desenvolve um compilador de aprendizado de máquina. Sua função é preparar os cálculos do modelo para execução eficiente no hardware da própria empresa. A companhia espera obter vantagem do desenvolvimento conjunto de hardware e software.

Para o desenvolvedor, esse é um detalhe essencial. Um novo acelerador tem poucas chances de se tornar infraestrutura útil se portar um modelo exigir trabalho manual demais ou se as operações necessárias forem executadas de forma ineficiente. A velocidade de uma demonstração isolada não diz nada sobre a facilidade de operação.

Suponha que uma equipe mantenha um assistente de suporte ao cliente. Para avaliar tal sistema, ela precisará testar seu próprio modelo, os tamanhos típicos das solicitações, a carga paralela e o custo final de atender uma solicitação. Depois, descobrir quanto esforço a migração exige e como o sistema se comporta em picos de demanda. No material original não há esses dados: nem lista de modelos compatíveis, nem resultados de testes independentes, nem preço do equipamento.

O que a rodada significa para o mercado

A rodada Série C foi liderada por Thrive Capital, Founders Fund, Lightspeed Venture Partners e Redpoint. Teve o apoio do fundo britânico Sovereign AI Fund. Segundo o governo do Reino Unido, a avaliação da Fractile superou £ 5 bilhões. O Estado explica sua participação pelo desejo de aumentar a fatia do país na infraestrutura de hardware da economia do futuro.

A escala do financiamento dá à empresa recursos para a próxima etapa de desenvolvimento e as primeiras entregas. Também mostra o interesse dos investidores em chips especializados para inferência. Mas o valor da rodada não responde à principal pergunta do comprador: quanto custará executar sua tarefa com a velocidade e a qualidade necessárias.

A conclusão prática para um fundador ou gerente de produto é entender de antemão a própria economia de inferência: a latência do cenário completo, o número de chamadas ao modelo e o custo de uma tarefa concluída com sucesso. Com esses números, será possível avaliar a Fractile de forma concreta quando surgirem sistemas disponíveis e resultados verificáveis. Por ora, estamos diante de um grande investimento na promessa de reduzir custos de infraestrutura, enquanto a prova técnica dessa promessa ainda está por vir.