Enrutamiento de Modelos
El enrutamiento de modelos es la práctica de dirigir automáticamente cada solicitud de inferencia de IA al modelo más apropiado de una flota — equilibrando costo, latencia y calidad — en lugar de enviar todas las consultas a un único modelo.
El enrutamiento de modelos es la práctica de dirigir automáticamente solicitudes de inferencia individuales a diferentes modelos de IA — o variantes de modelos — basado en criterios como la complejidad estimada de la consulta, la calidad de salida requerida, el presupuesto de latencia, o restricciones de costo. En lugar de usar un único modelo para todas las solicitudes, una capa de enrutamiento selecciona el modelo que mejor se ajusta para cada consulta, optimizando el equilibrio costo-rendimiento en una flota heterogénea.
Un enrutador se sitúa frente a la flota de modelos y clasifica cada consulta entrante. Los enrutadores simples usan heurísticas basadas en reglas — las consultas cortas van a un modelo pequeño; las solicitudes de generación de código van a un modelo especializado en código. Los enrutadores más sofisticados entrenan un clasificador ligero para predecir qué modelo devolverá una respuesta aceptable al costo más bajo, utilizando características como la longitud del prompt, el tema, o el feedback histórico del usuario. Los sistemas en cascada primero intentan un modelo más barato y escalan a uno más grande solo cuando no se cumple un umbral de calidad. Servicios como OpenRouter, Martian y LiteLLM facilitan el enrutamiento entre proveedores y familias de modelos.
La brecha de costo entre modelos frontera y modelos básicos puede ser de dos a tres órdenes de magnitud por token. Para un producto de alto volumen que maneja millones de consultas por día, enrutar incluso 70-80% de consultas simples o rutinarias a un modelo más pequeño puede reducir los costos de inferencia entre 10-50 veces mientras se mantiene la calidad visible para el usuario. El enrutamiento también permite un fallback elegante durante interrupciones del proveedor, equilibrio de carga geográfico, y selección de modelo impulsada por cumplimiento — por ejemplo, enrutar ciertos tipos de datos a modelos en las instalaciones.
A partir de 2026, el enrutamiento de modelos es un componente establecido de la infraestructura empresarial de LLM. Las principales plataformas en la nube — AWS Bedrock, Google Vertex AI, Azure AI Foundry — ofrecen endpoints multi-modelo con hooks de enrutamiento integrados. La expansión continua de modelos de peso abierto capaces como Llama 3 (Meta), Mistral, Qwen (Alibaba) y DeepSeek ha ampliado la frontera de Pareto costo-calidad, aumentando el valor práctico del enrutamiento inteligente a medida que la brecha de rendimiento entre modelos abiertos y propietarios se ha estrechado.