JEV sustituye la generación de varios pasos por una única decisión tipada

Un gran modelo de lenguaje dentro de un agente de IA suele trabajar como un profesor al que han pedido clasificar solicitudes en tres carpetas. Recibe el historial de la tarea, vuelve a leer el contexto y genera una respuesta de forma secuencial, aunque el sistema solo necesita una elección: ejecutar una búsqueda, comprobar una API o transferir la solicitud a una persona.

JEV, de TypeSafe AI, propone separar estas decisiones breves de la generación de texto. El modelo recibe el estado del sistema y un conjunto de preguntas definidas de antemano, y devuelve respuestas tipadas: una opción seleccionada, una puntuación en una escala o la probabilidad de un «sí». Para el desarrollador, lo importante no es una nueva forma de magia, sino un patrón arquitectónico: la costosa LLM se ocupa del análisis y del texto, mientras que un componente compacto gestiona el enrutamiento.

Cómo funciona en el ciclo de un agente

Imaginemos el servicio de soporte de una tienda en línea. Un cliente escribe: «Stripe lleva tres días sin conectarse y estoy perdiendo ventas». El agente debe determinar la urgencia y el siguiente paso.

Una LLM convencional puede recibir un prompt del sistema, la descripción de las herramientas y un esquema JSON, para después generar un objeto como urgent junto con una explicación. JEV está organizado de otra manera: el desarrollador proporciona el contexto y preguntas con los tipos de respuesta esperados. La primitiva Choice selecciona una opción de una lista, Score asigna una puntuación y Noul devuelve la probabilidad de que una afirmación sea verdadera. Varias preguntas independientes sobre el mismo contexto pueden procesarse en una sola solicitud.

El resultado obtenido se incorpora inmediatamente a la lógica normal del programa. Si la probabilidad de un incidente crítico supera el umbral establecido, la solicitud se envía a un operador. Si es inferior, el agente busca una respuesta en la base de conocimiento. En la zona limítrofe, se puede invocar una LLM grande o solicitar información adicional.

Este componente no sustituye al agente completo. Se ocupa de una bifurcación concreta dentro del ciclo «observación—decisión—acción», tras la cual la API, RAG, las herramientas o el modelo generativo continúan el trabajo.

Dónde aparece el beneficio práctico

Los principales candidatos son las operaciones con un conjunto limitado de resultados válidos: clasificación de tickets, selección de herramientas, evaluación de la urgencia y comprobación de la necesidad de escalar un caso. En estos escenarios, la generación libre resulta realmente superflua.

El beneficio consta de tres partes. En primer lugar, la respuesta tiene un tipo definido de antemano, por lo que no es necesario extraer JSON del texto. En segundo lugar, se pueden solicitar varias evaluaciones a la vez. En tercer lugar, el modelo grande solo se invoca cuando hacen falta razonamiento, síntesis o un texto bien redactado.

JEV no debe confundirse con RAG ni con un reranker. RAG es un patrón para obtener contexto externo. Un reranker ordena los documentos encontrados según su relevancia para la consulta. JEV selecciona una acción o evalúa un estado. Los tres componentes pueden funcionar dentro del mismo sistema: JEV decide consultar la base de conocimiento, RAG encuentra los fragmentos y el reranker selecciona los mejores.

Qué comprobar antes de implantarlo

Una respuesta tipada no implica que la respuesta sea correcta. Una cifra del 92% parece convincente, pero sin calibrarla con sus datos puede reflejar mal la frecuencia real de errores. Es especialmente peligroso vincular automáticamente esta puntuación con pagos, bloqueos de cuentas u otras acciones irreversibles.

Empiece en modo sombra: registre las decisiones de JEV, pero no las ejecute automáticamente. Compare el modelo con reglas sencillas, una LLM compacta y el enrutador actual en términos de precisión, latencia, coste y tasa de escalado. Mida por separado los errores en escenarios infrecuentes y costosos.

Si un if/else resuelve la tarea de forma fiable, no hace falta una red neuronal. Si hay pocas opciones, pero las reglas no dejan de expandirse y dependen del significado del texto, un modelo especializado empieza a resultar interesante. La conclusión práctica es sencilla: JEV no debe considerarse un «asesino de las LLM», sino un enrutador especializado que libera al modelo grande de las decisiones rutinarias.