Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
InfraestruturaAnálise · No radarMarkTechPost→ original

Taalas desafia as GPUs: lógica fixa em vez de flexibilidade para chegar a 17 000 tokens por segundo

A startup Taalas, de Toronto, desenvolve chips de AI especializados com lógica fixa (hardwired) para substituir GPUs programáveis em tarefas de inferência. A empresa afirma atingir 17 000 tokens por segundo, ordens de grandeza acima das soluções típicas baseadas em GPU. A ideia contraria o principal dogma da indústria: o de que a flexibilidade do silício programável é o que mais importa. Para a Taalas, é justamente essa flexibilidade que virou gargalo. Na visão da empresa, a adoção em massa de AI exige chips otimizados para operações específicas de redes neurais, e não processadores de uso geral.

Processado por IA de MarkTechPost; editado por Hamidun News
Taalas desafia as GPUs: lógica fixa em vez de flexibilidade para chegar a 17 000 tokens por segundo
Fonte: MarkTechPost. Colagem: Hamidun News.
Ouvir artigo

Na última década, toda a indústria de inteligência artificial se apoiou num axioma tácito: o silício precisa ser flexível. Os modelos mudam toda semana, as arquiteturas evoluem a cada trimestre, e só GPUs programáveis conseguem acompanhar esse ritmo. A Taalas, startup de Toronto, acredita que foi exatamente essa lógica que levou o setor a um beco sem saída. Sua proposta é uma alternativa radical: chips com lógica fixa, que não fazem nada além de inferência, mas fazem isso a 17 000 tokens por segundo.

Para entender o tamanho da afirmação, vale lembrar o contexto. As GPUs atuais, da NVIDIA H100 às Blackwell mais recentes, são essencialmente supercomputadores em um chip, capazes de executar cálculos arbitrários. Sua arquitetura herda décadas de evolução dos processadores gráficos: milhares de núcleos programáveis, hierarquias de memória complexas e barramentos de dados flexíveis. Essa versatilidade permite rodar no mesmo hardware o treinamento de modelos gigantes, a inferência e simulações científicas. Mas ela tem um preço: consumo de energia, latência e custo. Cada ciclo de clock gasto decodificando instruções e gerenciando fluxos de dados é energia e tempo que não vão para a multiplicação de matrizes propriamente dita.

É exatamente esse ponto que a Taalas ataca. A empresa desenvolve chips em que os caminhos de computação são gravados diretamente no silício, a chamada lógica hardwired. Na prática, o chip não interpreta um programa em tempo real: ele implementa fisicamente operações específicas da arquitetura transformer, como multiplicações de matrizes, funções de atenção e normalização. Em vez de um processador de uso geral, você tem um circuito eletrônico que faz exatamente uma coisa, mas com overhead mínimo.

Em princípio, a abordagem não é nova. Chips ASIC (application-specific integrated circuits) são usados há tempos em mineração de criptomoedas, telecomunicações e processamento de vídeo. Já em 2016, o Google apresentou as TPUs, processadores tensoriais também especializados em computação de redes neurais, embora mantenham certo grau de programabilidade. A Taalas, ao que tudo indica, vai além e leva a especialização ao extremo em busca do máximo desempenho por token.

O número de 17 000 tokens por segundo merece atenção à parte. Para comparação, a inferência típica de um grande modelo de linguagem em uma única GPU do nível da H100 entrega de algumas centenas a alguns milhares de tokens por segundo, dependendo do tamanho do modelo e do batch. Se a Taalas realmente alcança a velocidade anunciada com qualidade e tamanho de modelo comparáveis, isso pode significar uma redução múltipla no custo de inferência, o principal item de despesa para empresas que colocam serviços de AI em produção.

Hoje é o custo de inferência, e não o de treinamento, que define a economia da maioria dos produtos de AI: cada consulta ao ChatGPT, cada chamada ao Copilot, cada imagem gerada é dinheiro gasto em tempo de GPU.

Mas a abordagem traz um risco óbvio e sério. Lógica fixa significa amarração rígida a uma arquitetura de modelo específica. Se amanhã a indústria trocar os transformers por algo fundamentalmente diferente, como arquiteturas baseadas em state-space models ou abordagens híbridas, os chips da Taalas correm o risco de virar caros pesos de papel. É o dilema clássico da especialização: ganha-se em eficiência, perde-se em adaptabilidade. O Google pode atualizar o software das suas TPUs, a NVIDIA lança novos drivers e bibliotecas CUDA, enquanto a Taalas terá de projetar um chip novo.

Ainda assim, a startup tem um contra-argumento forte. A arquitetura transformer domina há oito anos e não dá sinais de que vá sair de cena tão cedo. As operações básicas, como multiplicação de matrizes e mecanismo de atenção, continuam fundamentalmente as mesmas do GPT-2 aos modelos mais recentes. Além disso, a tendência de "inferência onipresente" (ubiquitous inference), que a Taalas usa como slogan, pressupõe que a computação de AI fique tão barata e acessível quanto a eletricidade. E, para isso, são necessários justamente chips especializados e eficientes em energia, e não GPUs caras de uso geral.

Há também o contexto de mercado. A escassez de GPUs e a posição de monopólio da NVIDIA criaram uma forte demanda por alternativas. Os grandes provedores de nuvem, como Amazon, Google e Microsoft, já desenvolvem chips próprios. Startups como Groq, Cerebras e SambaNova oferecem arquiteturas fora do padrão. A Taalas se encaixa nessa tendência, mas ocupa a posição mais radical no espectro entre flexibilidade e especialização.

A principal questão que a Taalas terá de responder não é técnica, e sim econômica. A empresa conseguirá fabricar e atualizar seus chips rápido o bastante para não ficar para trás na evolução dos modelos? Conseguirá convencer os clientes de que a aposta na lógica fixa se justifica? Se sim, podemos ver o início de uma nova era, em que a inferência de AI deixa de ser um luxo e vira padrão de infraestrutura. Se não, será mais uma lição sobre por que a indústria se agarra tanto à flexibilidade.

História
ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…