Google lanza Gemini Decision 1: respuesta en 150–250 ms y 0,10 $ por 1M de tokens

Es un dolor conocido: construyes un agente y la mitad de sus llamadas a un modelo grande no son razonamiento, sino rutina. «¿Es spam o no?», «¿qué herramienta llamar?», «¿hay un error en este log?». Pagar por la generación de texto token a token para obtener la respuesta «sí» u «opción C» es un derroche y es lento. Google ha abordado este problema con una clase de modelos distinta.

Qué se ha lanzado exactamente

Gemini Decision 1 es un «modelo de decisiones». Trabaja con un conjunto cerrado de opciones: usted proporciona una pregunta y una lista de respuestas, y el modelo evalúa cada opción en una sola pasada. El texto no se genera token a token. Cada respuesta incluye una puntuación de confianza calibrada (calibrated confidence).

Se admiten tres modos: sí/no, elección entre opciones (hasta 255) y evaluación por rúbrica. Como entrada se pueden usar texto, imágenes, audio, vídeo y PDF. En una sola solicitud caben hasta 1000 preguntas con un contexto de 256K. La latencia de extremo a extremo es de 150–250 ms.

Precio: 0,10 $ por millón de tokens de entrada; los de salida no se tarifican. Google lo describe como unas 5 veces más barato que Flash-Lite. Según Phil Schmid, el proyecto empezó como un prototipo interno de DeepMind, y un equipo pequeño lo convirtió en modelo y API en unas seis semanas.

Cómo se ve en un ejemplo

Imagine un servicio de soporte que recibe miles de solicitudes por hora. Antes se le pedía a un LLM: «determina la categoría y la urgencia y escribe una respuesta en JSON». Ahora se envía un lote de preguntas del tipo «¿es una queja de pago?», «¿está enfadado el cliente?», «¿hace falta una persona?» y se reciben respuestas con su nivel de confianza. Si la confianza queda por debajo de un umbral, la solicitud pasa a una persona o a un modelo grande.

Este esquema lo mostró Cloudflare en AI Engineer. Los modelos de decisión rápidos eligen herramientas y extraen las líneas necesarias de los logs, y un modelo de razonamiento grande interviene solo para el diagnóstico. En una demostración con un fallo de compilación, seis llamadas a un LLM pasaron a ser una, y el consumo bajó de unos 40K tokens a 1,8K. LangChain añadió soporte para Decision 1 el mismo día del lanzamiento, con una clase base común para los clasificadores de TypeSafe, de modo que conectarlo a un pipeline existente no es complicado.

Qué dicen las pruebas independientes

Los benchmarks propios de Google resultan convincentes: Decision 1 supera al competidor Jev 1.14 de TypeSafe en 5 de 7 pruebas comunes, por ejemplo 92,2 % frente a 90,0 % en JevBench. Pero Artificial Analysis enfría el panorama.

• En el Decision Index agregado, el modelo obtuvo 66 puntos. Es el nivel de Elephant 9B y Jev 1.14, y 7 puntos menos que Drex Max v1.1 y GLiDE v1.2.
• Lidera en AA-Omniscience-Decision (66) y HLE-MultiChoice (49).
• En AA-Paperclip, el modelo responde sin errores a todas las preguntas solo en el 33 % de los documentos; Drex Max alcanza el 63 %.
• El precio por 1M de tareas es de 345 $, frente a 103 $ de Drex Max y 156 $ de Jev.
• El tiempo medio por tarea es de 211 ms; el de Jev, 92 ms.

Una tarifa de entrada barata no significa una tarea barata: según el cálculo de AA, el coste del trabajo real es mayor que el de varios competidores. Y en velocidad, Jev es casi el doble de rápido. La ventaja de Gemini Decision 1 es la multimodalidad y la gran ventana de 1000 preguntas por solicitud, no la calidad absoluta.

Qué hacer con esto

Desarrolladores. Busquen en su agente las llamadas en las que la respuesta es una elección entre una lista finita: enrutamiento, selección de herramienta, filtros, extracción de logs. Conviene pasarlas por un modelo de decisiones y reservar el LLM caro para el razonamiento de verdad. Los umbrales de confianza ayudarán a decidir cuándo escalar.

Product managers. Calculen el coste de la tarea, no el precio por token. Pasen su propio dataset por Decision 1, Jev y Drex y comparen precisión, latencia y precio final con sus datos. Los benchmarks de los proveedores no ayudan aquí, como siempre.

Fundadores. El mercado de modelos «decisores» apenas se está formando, y Google entró en él al mismo tiempo que TypeSafe, que ya tiene clientes de pago. Cabe esperar una guerra de precios y la rápida aparición de nuevos competidores.

Las limitaciones son evidentes: el modelo no sustituirá a la generación; en conjuntos cerrados de opciones funciona bien, pero en documentos complejos queda claramente por detrás de los mejores competidores. Los datos provienen por ahora sobre todo de Google y de un laboratorio independiente, así que es mejor decidir tras una prueba propia.