En vivo 18.11 · Cohorte 318 nov, 19:00 MSK — taller práctico gratuito de agentes IA · Cohorte 3 en vivo inicia 23.11Taller 18 nov →Cohorte 3 (23.11)
LanzamientoPaper científico · Para I+DTechCrunch→ original

Los modelos de decisión ya acaparan más del 25 % de las solicitudes en el router de Vercel un mes después de aparecer

Los modelos de decisión (decision models) son LLM que no escriben texto: eligen de forma rápida y barata una de varias opciones predefinidas e indican con qué grado de confianza lo hacen. En octubre concentraron más del 25 % de las solicitudes en el router de Vercel, aunque esta clase de modelos apareció solo un mes antes. Microsoft lanzó su propio modelo en Azure, y la startup Sqwish captó $3 millones para el fine-tuning con los datos del cliente. Por eso conviene comparar estos modelos con el tráfico propio y no con benchmarks.

Procesado por IA desde TechCrunch; editado por Hamidun News
Los modelos de decisión ya acaparan más del 25 % de las solicitudes en el router de Vercel un mes después de aparecer
Fuente: TechCrunch. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalTechCrunch ↗
Editor jefe
TypeSafe Jeven una semana, OpenRouter procesó más de 1,5 mil millones de solicitudes
Dato clave #2Sqwish (kettei fat) recaudó $3 millones en una ronda pre-seed y ajusta el modelo con los datos del cliente
Dato clave #3Microsoft-Decision-1.1 estuvo disponible en Azure justo después del anuncio de Nadella

Si desarrollas un producto sobre LLM, seguro que tienes tareas para las que un modelo grande es excesivo. Determinar a qué categoría pertenece un ticket. Decidir si una solicitud va a un modelo caro o basta con uno barato. Saber si lo que tienes delante es spam o no. Para este tipo de tareas ha surgido en el último mes una clase propia de modelos, y crece a gran velocidad: según TechCrunch, en octubre más de una de cada cuatro solicitudes en el router de IA de Vercel no fue a LLM convencionales, sino a modelos de decisión (decision models).

Qué es un modelo de decisión

Es un LLM que no genera la respuesta en forma de palabras. Se configura para aprovechar la «inteligencia» general, elegir con rapidez y bajo coste entre opciones predefinidas y, además, mostrar su grado de confianza en la elección. Piensa en un administrador de guardia que, en lugar de escribirte un correo, marca la casilla correspondiente y añade: «seguro al 90 %». Para producción es una ventaja: cuando la decisión se necesita en fracciones de segundo y por muy poco dinero, un modelo frontier lento y caro, con razonamientos largos, solo estorba.

Llama la atención lo rápido que ha ocurrido todo. TypeSafe pasó a valer $7,5 mil millones tras lanzar la familia de modelos Jev, que sigue liderando en uso, al menos allí donde las métricas son visibles. Por ejemplo, a través de OpenRouter, los modelos de TypeSafe recibieron la semana pasada más de 1,5 mil millones de solicitudes. Pero construir un modelo así resultó no ser difícil: tras Jev han salido decenas de equivalentes, un ingeniero de Amazon montó el suyo en un fin de semana y cada hiperescalador tiene ya su propia versión. El martes, Satya Nadella anunció que Microsoft lanza de inmediato Microsoft-Decision-1.1 para uso general en Azure.

Los datos importan más que la arquitectura

Si hacer un modelo es fácil, ¿cómo diferenciarse? Diogo Almeida, responsable de TypeSafe, afirma que lo más difícil de Jev fue la calibración fina de los juicios con datos sintéticos y corrección estadística. Es decir, no solo importa qué elige el modelo, sino también con qué honestidad evalúa su propia confianza.

La startup británica Sqwish, creadora del modelo kettei fat, apuesta por la personalización. Hoy ha anunciado una ronda pre-seed de $3 millones. Los cofundadores, Ushnish Sengupta y Federica Freddi, se conocieron en Cambridge, trabajaban con LLM pequeños y, cuando apareció Jev, se dieron cuenta de que sus arquitecturas podían reconvertirse en un modelo de decisión. El rasgo distintivo de Sqwish son sus herramientas de fine-tuning integradas: el cliente sube sus datos de producción y el modelo mejora precisamente en sus tareas. Según el CEO, eso es lo que distingue a la compañía de un producto commodity: los clientes reciben la misma capacidad con la que los propios autores entrenaron los modelos.

Los benchmarks, apenas una invitación

Comparar estos modelos con tablas es difícil. kettei fat rindió bien en algunos benchmarks, pero los propios desarrolladores reconocen que hay que probarlo en la práctica. Sustituir un modelo por otro en un escenario concreto suele ser sencillo. Sengupta describe el benchmark como una «invitación a probar», y lo que debe retener al cliente es el fine-tuning continuo.

Achint Srivastava, vicepresidente de ingeniería de Microsoft que dirigió el proyecto, expresó una idea parecida. Según él, los modelos «optimizados para benchmarks» fallan rápidamente en la explotación empresarial real. Microsoft-Decision-1.1 equilibra coste, latencia, inteligencia y calibración y, junto con Jev, según afirma la compañía, es uno de los pocos modelos sólidos en los cuatro ejes, también en pruebas retenidas (held-out) cercanas a escenarios reales. Conviene tenerlo en cuenta: es una afirmación de la propia Microsoft, y el artículo no incluye comparaciones independientes.

Qué significa para los desarrolladores

Federica Freddi prevé que en el futuro el «Sistema 1» (modelos de decisión rápidos) trabajará en tándem con el «Sistema 2»: los LLM frontier, más pesados. Incluso en ese escenario, opina, el mercado del «Sistema 1» podría valer entre $10 y 50 mil millones, y para Sqwish es lo único a lo que se dedica, mientras que para OpenAI es un proyecto secundario. Es, por supuesto, un pronóstico de startup y no una garantía.

La conclusión práctica es sencilla. Si parte de tu tráfico es clasificación y enrutamiento, prueba a pasarla a un modelo de decisión: es más barato y más rápido. Elige según tus propios datos, no según los leaderboards: cambiar de modelo es fácil, así que prueba dos o tres opciones con solicitudes reales. Fíjate no solo en la precisión, sino también en la calibración de la confianza: es lo que te permitirá decidir cuándo derivar la tarea a un modelo pesado. Y presta atención a quienes ofrecen fine-tuning con tus datos, porque, a juzgar por el mercado, ahí estará la competencia.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué es un modelo de decisión?

Es un LLM que no genera la respuesta en forma de palabras. Se configura para aprovechar la «inteligencia» general, elegir con rapidez y bajo coste entre opciones predefinidas y, además, mostrar su grado de confianza en la elección. Piensa en un administrador de guardia que, en lugar de escribirte un correo, marca la casilla correspondiente y añade: «seguro al 90 %».

¿Qué se sabe sobre Los datos importan más que la arquitectura?

Si hacer un modelo es fácil, ¿cómo diferenciarse? Diogo Almeida, responsable de TypeSafe, afirma que lo más difícil de Jev fue la calibración fina de los juicios con datos sintéticos y corrección estadística. Es decir, no solo importa qué elige el modelo, sino también con qué honestidad evalúa su propia confianza. La startup británica Sqwish, creadora del modelo kettei fat, apuesta por la personalización. Hoy ha anunciado una ronda pre-seed de $3 millones.

¿Qué se sabe sobre Los benchmarks, apenas una invitación?

Comparar estos modelos con tablas es difícil. kettei fat rindió bien en algunos benchmarks, pero los propios desarrolladores reconocen que hay que probarlo en la práctica. Sustituir un modelo por otro en un escenario concreto suele ser sencillo. Sengupta describe el benchmark como una «invitación a probar», y lo que debe retener al cliente es el fine-tuning continuo. Achint Srivastava, vicepresidente de ingeniería de Microsoft que dirigió el proyecto, expresó una idea parecida.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…