StartLux-Decision reduce un 65% la cadena media de razonamiento

La mayoría de los agentes de producción consume capacidad de cómputo de una manera bastante absurda: dedica el mismo tiempo a reflexionar sobre una estrategia compleja que a decidir si puede llamar a la siguiente herramienta. StartLux-Decision propone un esquema más práctico. El modelo primero estima las probabilidades de las opciones válidas. Si una respuesta resulta suficientemente convincente, la entrega en una sola pasada. Si la confianza no basta, activa un razonamiento breve y vuelve a evaluar las opciones.

Un ejemplo sencillo es un agente que decide si debe aceptar el resultado de una tarea completada. Recibe un registro de acciones, los requisitos y dos opciones: «aceptar» o «devolver para su revisión». Si todas las comprobaciones están en verde y se cumplen los criterios, no hace falta un largo monólogo interno. Cuando una prueba falla, pero las reglas admiten excepciones, el modelo puede gastar tokens adicionales, comprobar las condiciones y solo entonces elegir una respuesta. El desarrollador controla este comportamiento mediante un umbral de confianza.

Una interfaz para decisiones rápidas y complejas

La familia incluye modelos de entre 0,8 y 27 mil millones de parámetros. Instant siempre responde en una sola pasada. AutoThink compara la probabilidad máxima con un umbral definido: si la confianza es suficiente, responde de inmediato; en caso contrario, genera un razonamiento y vuelve a calcular las probabilidades de las opciones.

Como entrada se proporcionan el estado de la tarea, el tipo de pregunta y las respuestas válidas. La salida incluye no solo la opción elegida, sino también una distribución de probabilidades. Se admiten la selección a partir de una lista, las respuestas de «sí o no» y las valoraciones en una escala. Este contrato resulta práctico para enrutar solicitudes, validar resultados, autorizar herramientas y resolver otras decisiones acotadas en las que el texto libre supone más un obstáculo que una ayuda.

Según los autores, Instant supera a modelos abiertos comparables por entre 7,4 y 16,9 puntos en la parte pública de Decision Index 0.3. El modelo AutoThink de 27 mil millones de parámetros obtuvo 73,37 puntos. En DecisionPivot, donde los pares de tareas difieren en un único detalle decisivo, AutoThink suma entre 11,5 y 18,4 puntos a los resultados de Instant. Se trata de puntuaciones de pruebas concretas, no de una medida universal de la precisión del sistema.

Cómo aprende el modelo cuándo detenerse

Un simple interruptor de «pensar» resultó insuficiente. En los primeros experimentos, el modelo de 4 mil millones de parámetros apenas razonaba en aproximadamente el 40% de los casos. La versión de 9 mil millones, por el contrario, seguía generando texto hasta alcanzar el límite de longitud en cerca del 70% de los casos. Es decir, un modelo tomaba decisiones prematuramente y el otro agotaba el presupuesto sin advertir que el trabajo útil ya había terminado.

Para AutoThink, los autores desarrollaron RLCD², un método de aprendizaje por refuerzo que evalúa cuánto mejora el razonamiento la predicción probabilística. Si, después del análisis, la opción correcta recibe una probabilidad de mayor calidad, el modelo obtiene una recompensa. Las cadenas excesivamente largas reciben una penalización suave. Como resultado, la longitud media del razonamiento cayó al 65% y la proporción de cadenas que terminaron antes de alcanzar el límite aumentó hasta 48 puntos porcentuales, con un cambio pequeño en la calidad de las decisiones.

Qué llevar a producción

La idea principal es más útil que el modelo concreto: el presupuesto de cómputo debe distribuirse según la incertidumbre de la consulta. Un agente puede mantener una vía rápida para las decisiones evidentes y activar el costoso análisis solo cerca del límite de confianza. Esto resulta especialmente apropiado para el enrutamiento, la comprobación de políticas, la elección de herramientas y la aceptación automatizada de tareas.

Sin embargo, la probabilidad del modelo no puede considerarse una garantía lista para usar. El umbral depende de los datos, del coste de los errores y de los requisitos de latencia. En las pruebas publicadas, reducir el umbral de AutoThink del 90% al 60% disminuyó de forma notable la proporción de consultas con razonamiento, pero empeoró los resultados en tareas sensibles a reglas y cálculos. La cuantización también puede reducir la calidad: en una de las configuraciones Q4_K_M, la pérdida alcanzó 4,3 puntos.

El camino práctico es sencillo: recopilar un registro de decisiones reales, clasificar los errores por coste, medir la calibración de las probabilidades y elegir un umbral independiente para cada escenario. En acciones críticas, una confianza baja debería conducir no solo a razonamiento adicional, sino también a una comprobación mediante código, un segundo clasificador o una persona. StartLux-Decision presenta una buena base arquitectónica, pero lo que la convierte en un producto seguro no es el nombre del modelo, sino un circuito validado de toma de decisiones.