DeepSeek 4 veces más rápido: cómo funciona ATLAS, el sistema de Together AI para LLM

Together AI ha presentado ATLAS, un especulador adaptativo basado en machine learning que acelera la inferencia de LLM 4 veces sin ajuste manual. El sistema aprende de forma automática y se adapta a tu carga de trabajo a medida que lo usas. En DeepSeek-V3.1 alcanza 500 tokens por segundo, 2.65 veces más rápido que la decodificación estándar, y supera el rendimiento del hardware especializado de Groq.

Procesado por IA desde Together AI Blog; editado por Hamidun News
DeepSeek 4 veces más rápido: cómo funciona ATLAS, el sistema de Together AI para LLM
Fuente: Together AI Blog. Collage: Hamidun News.
Escuchar artículo

El sistema ATLAS de Together AI permite acelerar la inferencia de LLM como DeepSeek-V3.1 y Kimi-K2 hasta 4 veces, hasta 500 y 460 tokens por segundo respectivamente, sin ajuste manual.

¿Con qué modelos funciona ATLAS?

ATLAS acelera DeepSeek-V3.1 hasta 500 tokens por segundo y Kimi-K2 hasta 460 tokens por segundo, y mejora de forma automática a medida que se usa.

¿Qué es la decodificación especulativa?

La decodificación especulativa es una de las formas más potentes de acelerar la generación de texto en modelos de lenguaje. En el método estándar, el modelo genera un token cada vez; la decodificación especulativa permite procesar varios tokens a la vez.

¿Cuánto acelera ATLAS a DeepSeek?

ATLAS acelera DeepSeek-V3.1 hasta 500 tokens por segundo, es decir, una aceleración de 4x. En Kimi-K2, el sistema alcanza 460 tokens por segundo.

¿Qué resultado ofrece ATLAS en DeepSeek?

En DeepSeek-V3.1, ATLAS alcanza 500 tokens por segundo (aproximadamente 4x de aceleración); en Kimi-K2, 460 tokens por segundo.

Historia

Preguntas frecuentes sobre la noticia

¿Con qué modelos funciona ATLAS?

ATLAS acelera DeepSeek-V3.1 hasta 500 tokens por segundo y Kimi-K2 hasta 460 tokens por segundo, y mejora de forma automática a medida que se usa.

¿Qué es la decodificación especulativa?

La decodificación especulativa es una de las formas más potentes de acelerar la generación de texto en modelos de lenguaje. En el método estándar, el modelo genera un token cada vez; la decodificación especulativa permite procesar varios tokens a la vez.

¿Cuánto acelera ATLAS a DeepSeek?

ATLAS acelera DeepSeek-V3.1 hasta 500 tokens por segundo, es decir, una aceleración de 4x. En Kimi-K2, el sistema alcanza 460 tokens por segundo.

¿Qué resultado ofrece ATLAS en DeepSeek?

En DeepSeek-V3.1, ATLAS alcanza 500 tokens por segundo (aproximadamente 4x de aceleración); en Kimi-K2, 460 tokens por segundo.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…