Perplexity publica tokenizador para redes neurais 5 vezes mais rápido

A Perplexity abriu o código de uma versão reescrita do tokenizador Unigram. O algoritmo roda 5 vezes mais rápido que os tokenizers padrão da Hugging Face e reduz a carga de CPU em produção em 5-6x. Para serviços de AI, isso é crítico: cada milissegundo economizado na tokenização se traduz em economia real com servidores. As empresas já podem baixar o código e integrá-lo sem custos adicionais.

Processado por IA de MarkTechPost; editado por Hamidun News
Perplexity publica tokenizador para redes neurais 5 vezes mais rápido
Fonte: MarkTechPost. Colagem: Hamidun News.
Ouvir artigo

A Perplexity AI publicou o código aberto do Unigram, um tokenizador para redes neurais. Em desempenho, trata-se de um avanço real: o novo algoritmo é 5x mais rápido que a abordagem tradicional e quase não sobrecarrega a CPU.

Por que um tokenizador rápido é necessário?

O tokenizador é chamado centenas de milhões de vezes por dia em servidores de produção. Aqui, qualquer latência se acumula e vira um prejuízo financeiro considerável.

História
ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…