Microsoft presenta Decision-1, basado en Qwen3.5-9B: 83,5% de precisión con 85 ms de latencia

Microsoft ha presentado Decision-1, un modelo compacto para la clasificación rápida y el enrutamiento de solicitudes. Se basa en Qwen3.5-9B. Según datos de la propia compañía, el modelo alcanza un 83,5% de precisión en 36 benchmarks con una latencia de 85 ms. Por ahora no hay verificaciones independientes.

Para qué sirven los modelos de decisión

Un modelo de decisión no redacta textos largos ni razona en voz alta. Su tarea es tomar una decisión rápida: a qué categoría pertenece una solicitud, a qué herramienta se transfiere una tarea, a qué modelo se envía una consulta o si hace falta pasarla por un filtro. En los sistemas de agentes, estas bifurcaciones aparecen en cada paso. Si cada una requiere una llamada a una LLM de gama alta, la factura y la latencia crecen en proporción al número de pasos.

Por eso, para enrutadores y despachadores resultan adecuados los modelos de unos pocos miles de millones de parámetros. Nueve mil millones es justo esa escala: el modelo cabe en una sola GPU y responde en fracciones de segundo. Microsoft entra en un segmento donde ya compiten otras soluciones y aporta su propia optimización para esta tarea.

La elección de la base también dice mucho. La compañía ha afinado Qwen3.5-9B, un modelo abierto de la familia de Alibaba, en lugar de usar una arquitectura propia. Para una tarea aplicada y acotada es un camino racional: el valor se crea en la capa de datos, el ajuste fino y la optimización, no en el preentrenamiento desde cero.

Qué se sabe de las cifras

• Base: Qwen3.5-9B.
• Finalidad: clasificación y enrutamiento rápidos.
• Precisión: 83,5% en 36 benchmarks.
• Latencia: 85 ms.
• Fuente de los datos: pruebas propias de Microsoft.

Conviene leer las cifras con cautela. Los 85 ms caben en el presupuesto de un escenario interactivo, en el que la decisión se toma antes de la respuesta principal, pero la latencia depende mucho del hardware, de la longitud de la entrada y del tamaño del batch. El comunicado no revela las condiciones de la medición. Tampoco indica qué 36 benchmarks componen el conjunto ni con qué modelos se comparó Decision-1.

Con la precisión ocurre lo mismo. Un 83,5% significa que, de media, aproximadamente una de cada seis decisiones es errónea. Para clasificar solicitudes por temas puede ser aceptable. Para el enrutamiento, donde un error envía la solicitud al lugar equivocado o deja pasar contenido peligroso, hacen falta datos por tipo concreto de error, no una única cifra promediada.

Qué comprobar antes de desplegarlo

Si está construyendo un sistema de agentes o un enrutador de solicitudes, conviene considerar Decision-1 como candidato para un piloto, no como una solución lista para producción. El orden de verificación es este:

• Ejecutar el modelo con su propio tráfico. El resultado medio de los 36 benchmarks dice muy poco sobre sus categorías y sobre el idioma de sus solicitudes.
• Medir la latencia en su propio hardware y fijarse en p95 y p99, no en la media.
• Calcular el coste del error para cada tipo de decisión y determinar dónde es admisible la selección automática y dónde se necesita revisión humana.
• Añadir una vía de respaldo: cuando la confianza del modelo sea baja, enviar la solicitud a una LLM más potente.
• Compararlo con alternativas de referencia: un modelo generalista del mismo tamaño y un clasificador clásico. A menudo los enfoques sencillos ofrecen una calidad comparable a menor coste.
• Aclarar la licencia, las condiciones de acceso y el método de despliegue. El comunicado original no incluye estos detalles.

La mera aparición de Decision-1 indica que los grandes actores se toman en serio la capa «despachadora» de los sistemas de IA. Mientras el modelo carezca de mediciones independientes, es una apuesta por un nicho, pero no una ventaja demostrada.