Perplexity publica un tokenizador para redes neuronales: 5 veces más rápido

Perplexity ha liberado el código abierto de una versión reescrita del tokenizador Unigram. El algoritmo es 5 veces más rápido que los tokenizers estándar de Hugging Face y reduce la carga de CPU en producción en 5-6x. Para los servicios de AI, esto es crítico: cada milisegundo que se ahorra en la tokenización se traduce en un ahorro real en servidores. Las empresas ya pueden descargar el código e integrarlo sin costes adicionales.

Procesado por IA desde MarkTechPost; editado por Hamidun News
Perplexity publica un tokenizador para redes neuronales: 5 veces más rápido
Fuente: MarkTechPost. Collage: Hamidun News.
Escuchar artículo

Perplexity AI ha publicado el código abierto de Unigram, un tokenizador para redes neuronales. En rendimiento supone un auténtico avance: el nuevo algoritmo es 5x más rápido que el enfoque tradicional y apenas carga el procesador.

¿Para qué sirve un tokenizador rápido?

En los servidores de producción, el tokenizador se invoca cientos de millones de veces al día. Cualquier latencia en este punto se acumula y acaba en pérdidas económicas importantes.

Historia
ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…