Zyphra lanza Zamba2-VL: modelos visuales con una respuesta 10 veces más rápida

Zyphra ha lanzado Zamba2-VL, una familia abierta de modelos de visión y lenguaje de 1.2B, 2.7B y 7B parámetros. Se basan en una arquitectura híbrida que combina bloques Mamba2 y Transformer. El resultado clave: el tiempo hasta el primer token se reduce en torno a 10 veces frente a los VLM Transformer puros de tamaño similar.

Tres tamaños, una licencia

La familia incluye tres variantes: 1.2B, 2.7B y 7B parámetros. Las tres se publican bajo licencia Apache 2.0, lo que implica uso comercial libre, sin restricciones para integrar, modificar y redistribuir los modelos. Es libertad total para proyectos comerciales y de investigación.

Los Zamba2-VL son modelos completos de visión y lenguaje. Procesan imágenes y texto de forma conjunta, lo que abre la puerta a un amplio abanico de tareas: describir imágenes y fotografías, responder preguntas visuales, analizar documentos con ilustraciones, interpretar capturas de interfaces de usuario y trabajar con imágenes médicas. A diferencia de los LLM solo de texto, los VLM pueden responder preguntas sobre lo que aparece en una imagen y combinar contexto visual y textual en una misma consulta.

En benchmarks estándar, Zamba2-VL se mantiene a la par de los VLM Transformer puros de tamaño similar. Pasar a una arquitectura híbrida no obliga a sacrificar precisión por velocidad: ambas se mantienen a un nivel competitivo.

Cómo funciona el backbone híbrido

La mayoría de los modelos de lenguaje y multimodales actuales se basan en una arquitectura Transformer pura. En ella, cada nuevo token generado "revisa" toda la secuencia anterior mediante el mecanismo de atención (attention). Es un enfoque potente, pero costoso en cómputo: con contextos largos, la carga de trabajo crece de forma cuadrática. Ahí aparece el cuello de botella de velocidad, incluido un tiempo hasta el primer token elevado.

Mamba2 es una arquitectura basada en espacios de estados (state space model, SSM). En lugar de recorrer todo el historial, comprime el contexto previo en un "estado" compacto que se actualiza de forma lineal a medida que se procesan nuevos tokens. Zamba2-VL alterna bloques Mamba2 con capas Transformer convencionales: los bloques SSM aportan velocidad y eficiencia, y las capas Transformer añaden flexibilidad para manejar dependencias complejas.

El resultado:

• El tiempo hasta el primer token se reduce en torno a 10 veces
• La calidad sigue siendo competitiva frente a los VLM Transformer puros
• Menor huella de cómputo en inferencia
• Mejor escalado con contextos largos
• Posibilidad de desplegar en hardware menos potente sin perder capacidad de respuesta

Por qué importa el TTFT

El tiempo hasta el primer token (time-to-first-token, TTFT) es el intervalo entre el envío de la consulta y la aparición del primer carácter de la respuesta. Define la sensación de "inmediatez" en sistemas interactivos: chatbots, asistentes de voz, servicios de API donde importa la rapidez de reacción. Mientras el modelo piensa, el usuario espera. Un TTFT alto se percibe como un "cuelgue", aunque la respuesta final sea buena.

Reducir el TTFT 10 veces es una ganancia práctica multiplicativa. Con los mismos recursos de hardware, significa un servicio mucho más ágil o la posibilidad de atender bastantes más solicitudes a la vez. Para las empresas que pagan por tiempo de GPU, ambas opciones influyen directamente en la economía unitaria del producto.

Los modelos abiertos con esta velocidad de respuesta permiten

construir productos allí donde la latencia hacía inviable toda una clase de soluciones.

Qué significa

Las arquitecturas híbridas SSM + Transformer siguen pasando de los artículos académicos a los productos prácticos. El lanzamiento de Zamba2-VL como familia de tres modelos, del compacto 1.2B al 7B de tamaño completo, cubre distintos escenarios de despliegue: desde dispositivos con recursos limitados hasta granjas de servidores.

La apertura bajo Apache 2.0 reduce la barrera de entrada: los equipos pueden adoptar un modelo multimodal rápido y listo para usar sin depender de API comerciales, con todos sus precios, límites y el riesgo de cambios repentinos en las condiciones.