El nuevo modelo Jev responde en 150 ms frente a los 1,89 s de GPT-6 Astra
Para decidir con rapidez si un correo es spam o si un comentario infringe las normas, no hace falta que una LLM grande genere texto. La startup TypeSafe AI ha lanzado Jev, un modelo que elige una opción entre las que se le dan (A, B o C) y responde de media en 150 ms, mientras que GPT-6 Astra tarda 1,89 segundos. No puede inventarse una respuesta fuera de la lista, pero aun así se equivoca en matemáticas y en problemas de lógica. Por eso conviene usarlo para veredictos sencillos y dejar lo complejo a una LLM grande.
Procesado por IA desde IEEE Spectrum AI; editado por Hamidun News
Si usa una gran LLM para moderar comentarios, detectar phishing en correos o clasificar solicitudes, es probable que esté esperando y pagando más de lo necesario. Para estas tareas no hace falta un texto coherente: basta un veredicto breve, como «sí», «no» o «opción B». Sobre esa idea se construye una nueva clase de «modelos de decisión». El 15 de septiembre, la startup TypeSafe AI lanzó el más conocido de ellos, Jev. Según una verificación independiente, su latencia mediana fue de 150 milisegundos, mientras que GPT-6 Astra, de OpenAI, respondía en 1,89 segundos. Veamos de dónde sale esa diferencia y dónde está su límite.
Por qué un modelo de decisión es rápido
TypeSafe AI define Jev como un «modelo de Sistema 1», en referencia al libro de Daniel Kahneman «Pensar rápido, pensar despacio», que contrapone el pensamiento intuitivo y rápido al pensamiento lento y deliberado. Según la compañía, las LLM convencionales ofrecen el segundo, pero son demasiado lentas para el primero. La mayoría de los investigadores llaman a estos modelos simplemente decision models.
El mecanismo es sencillo. Una LLM genera la respuesta token a token: cada uno depende de todos los anteriores, hasta el final de la respuesta. Como explica Michelle Chen, de Cloudflare, un modelo de decisión no funciona así: lee toda la entrada en una sola pasada y devuelve de inmediato un único resultado. Por dentro siguen siendo los mismos transformers (por ejemplo, Clef, de Cloudflare, está construida sobre Qwen, de Alibaba), pero la salida está estrictamente limitada. Se le da una pregunta y las opciones A, B y C, y el modelo devuelve su elección junto con las probabilidades de cada opción.
La compañía declara una latencia de extremo a extremo de 70–500 ms. Un equipo de Carnegie Mellon, encabezado por Ramayya Krishnan, midió una mediana de 150 ms en las pruebas RewardBench y JudgeBench. El precio también es distinto: Jev cobra $0,042 por millón de tokens de entrada, y los de salida son gratuitos. En GPT-6 Astra son $10 por la entrada y $50 por la salida; en la versión ligera GPT-6 Luna, $0,10 y $0,50. Los inversores han apostado por el concepto: TypeSafe AI ha captado $870 millones con una valoración de $7,5 mil millones, y Cloudflare, Amazon, OpenAI y Microsoft lanzaron enseguida sus propios modelos de decisión.
Clasificadores de siempre con una nueva habilidad
Chen reconoce que es casi un rebranding: clasificadores como los filtros de spam o el reconocimiento facial existen desde hace mucho. Pero antes había que recopilar datos para cada tarea, montar un equipo de aprendizaje automático y reentrenar el modelo. Un modelo de decisión hereda el conocimiento general de las LLM, de modo que, según el desarrollador independiente Matt Mastracci, se puede «tomar de la estantería, apuntarlo a su tarea, y funciona».
Cloudflare ya aplica este enfoque: filtra solicitudes de fusión de código spam en repositorios de documentación, detecta spam y correos y dominios de phishing, identifica ataques de prompt injection contra LLM y lee los avisos de caídas en enlaces troncales para determinar si afectarán a los servicios de la compañía. Mastracci ve potencial en la moderación del flujo de una red social o de un chat muy concurrido.
Sin alucinaciones, pero con errores
La afirmación de TypeSafe AI de que Jev no puede alucinar es formalmente correcta. Las LLM inventan porque en cada paso eligen dentro de un vocabulario enorme y pueden desviarse. Un modelo de decisión calcula probabilidades solo entre las opciones predefinidas y elige la más probable, así que no puede dar una respuesta fuera de la lista.
Pero Krishnan advierte: que no haya alucinaciones en la salida no significa que no haya errores en la decisión. Jev determinaba bien si una respuesta a una pregunta era correcta cuando eso se desprendía del propio texto, pero rendía peor cuando hacía falta matemáticas o resolver un acertijo lógico. El estudio de Zhongyu Wei, de la Universidad de Fudan, que presenta el modelo abierto SII-Decision, mostró un panorama parecido: los mejores modelos de decisión son algo más precisos que las LLM en la comprensión de documentos y se acercan a ellas en la elección de la herramienta de software adecuada, pero se quedan atrás cuando se requiere experiencia especializada.
Qué hacer en la práctica
Chen cree que hasta el 80% de las tareas típicas de las LLM se puede trasladar a un modelo de decisión. Es una estimación de un proveedor y conviene tratarla como una hipótesis. Comprobarla es fácil: tome el registro de sus consultas, seleccione las tareas del tipo «elige una opción» y páselas por la abierta Clef o por SII-Decision. Si con su muestra la calidad es comparable, ganará en velocidad y en costes. Si no, deje esos casos en manos del modelo grande.
- 18 nov 2026AWS integra Dynamo en HyperPod: Qwen3-235B pasa de 101 a 207 tokens/s por GPU
- 18 nov 2026Huang deja el cargo de CEO de NVIDIA y la compañía pierde más de $1 billón en capitalización
- 18 nov 2026El mejor agente de código controla un robot en el 77% de las tareas, pero con solo sensores logra apenas el 30%
- 18 nov 2026Moonshot AI reorienta Kimi del código a la ciencia: análisis de genes en 90 minutos en lugar de 4 horas
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre Por qué un modelo de decisión es rápido?
TypeSafe AI define Jev como un «modelo de Sistema 1», en referencia al libro de Daniel Kahneman «Pensar rápido, pensar despacio», que contrapone el pensamiento intuitivo y rápido al pensamiento lento y deliberado. Según la compañía, las LLM convencionales ofrecen el segundo, pero son demasiado lentas para el primero. La mayoría de los investigadores llaman a estos modelos simplemente decision models. El mecanismo es sencillo.
¿Qué se sabe sobre Clasificadores de siempre con una nueva habilidad?
Chen reconoce que es casi un rebranding: clasificadores como los filtros de spam o el reconocimiento facial existen desde hace mucho. Pero antes había que recopilar datos para cada tarea, montar un equipo de aprendizaje automático y reentrenar el modelo. Un modelo de decisión hereda el conocimiento general de las LLM, de modo que, según el desarrollador independiente Matt Mastracci, se puede «tomar de la estantería, apuntarlo a su tarea, y funciona».
¿Qué se sabe sobre Sin alucinaciones, pero con errores?
La afirmación de TypeSafe AI de que Jev no puede alucinar es formalmente correcta. Las LLM inventan porque en cada paso eligen dentro de un vocabulario enorme y pueden desviarse. Un modelo de decisión calcula probabilidades solo entre las opciones predefinidas y elige la más probable, así que no puede dar una respuesta fuera de la lista. Pero Krishnan advierte: que no haya alucinaciones en la salida no significa que no haya errores en la decisión.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.