Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarVercel Blog→ original

Vercel permite cambiar de LLM en producción sin redesplegar: 125 modelos nuevos en 90 días

Vercel ha lanzado en AI Gateway los modelos virtuales: la aplicación llama no a un LLM concreto, sino a un ID de tarea como vmc/coding-agent. Qué modelo, qué proveedores de respaldo y qué política de retención de datos hay detrás de ese ID se define en la configuración de la pasarela. En los últimos 90 días han aparecido 125 modelos nuevos en la pasarela, mientras que antes cada cambio de modelo exigía modificar el código y redesplegar. Ahora todas las aplicaciones adoptan la nueva configuración en cuestión de minutos.

Procesado por IA desde Vercel Blog; editado por Hamidun News
Vercel permite cambiar de LLM en producción sin redesplegar: 125 modelos nuevos en 90 días
Fuente: Vercel Blog. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalVercel Blog ↗
Editor jefe
Dato clave #1La configuración del modelo virtual prevalece sobre la de la solicitud: el código no puede sobrescribirla
Dato clave #2Zero Data Retention se aplica aunque la solicitud lo desactive explícitamente
Dato clave #3Para validar cambios, crea un segundo ID como vmc/coding-agent-candidate y ejecuta tus evals

Los modelos nuevos salen ahora más rápido de lo que los equipos pueden adoptarlos. Según Vercel, en los últimos 90 días han aparecido en AI Gateway 125 modelos de más de diez laboratorios, es decir, unos diez por semana. Cambiar a cualquiera de ellos en la pasarela requiere una sola línea, pero esa línea está en tu código. Por eso cada cambio de modelo suele terminar en una modificación, una revisión y un redespliegue. Vercel propone sacar esa línea del código con Virtual Models.

Qué es un modelo virtual

Un modelo virtual es un ID de tarea que se utiliza en lugar del nombre del modelo. Por ejemplo, creas vmc/coding-agent y, una sola vez, indicas en AI Gateway qué hay detrás: qué modelo, qué velocidad y si necesitas Zero Data Retention (prohibición de almacenar las solicitudes en el proveedor). Puedes crear ese ID desde el panel del equipo o mediante Vercel CLI.

A partir de ahí, en el código solo queda ese ID. En el ejemplo del anuncio, la llamada a streamText de AI SDK recibe model: 'vmc/coding-agent', y el código no sabe nada más sobre el proveedor concreto. Cuando tengas un modelo mejor, incluso de otro proveedor, cambias la configuración con el comando edit, y todas las aplicaciones y agentes que llaman a ese ID la adoptan en cuestión de minutos. No hace falta desplegar nada.

También funciona con agentes de programación listos para usar, como Claude Code y Codex. Se conectan con el comando vercel ai-gateway setup, y el modelo virtual se elige en la lista de modelos de la propia herramienta.

Un modelo propio para cada tarea

Las tareas difieren mucho en carga. El procesamiento de tickets de soporte puede ejecutarse cientos de veces por hora, y ahí lo que importa es el coste. La revisión de contratos legales se hace varias veces al día, pero exige un razonamiento sólido. Antes, estas decisiones solían estar dispersas por los repositorios. Ahora cada tarea tiene su propio ID virtual, y su configuración puede cambiarse de forma independiente al resto.

Al cambiar de modelo, algunos ajustes se mantienen: los fallbacks, Zero Data Retention y las etiquetas. Sin embargo, las opciones específicas de un proveedor solo funcionan con ese proveedor. Si tenías una configuración propia de Anthropic y redirigiste el ID a un modelo de OpenAI, dejará de aplicarse. Vercel recomienda revisar las provider options cada vez que cambies de proveedor.

Para producción, se propone un esquema seguro. Crea un segundo ID, por ejemplo vmc/coding-agent-candidate, apúntalo al nuevo modelo y ejecuta sobre él tus evals (conjuntos de pruebas de calidad). Si tras cambiar el ID principal la calidad baja, puedes devolverlo al modelo anterior.

Control para equipos de plataforma y seguridad

Cualquier miembro del equipo puede invocar un modelo virtual, pero solo quienes tengan el rol adecuado pueden modificar su configuración. Esto ofrece a los equipos de plataforma y de seguridad un punto de control centralizado. Ellos deciden qué modelos están disponibles y con qué parámetros, y a la vez pueden dar acceso rápido a los desarrolladores a las nuevas versiones.

Un detalle importante: la configuración del modelo virtual tiene prioridad sobre la de la solicitud. El código que hace la llamada no puede cambiar el orden de los proveedores, los fallbacks ni el nivel de servicio. Si para vmc/storefront-assistant se han definido modelos de respaldo, todas las aplicaciones usarán el mismo escenario de tolerancia a fallos, aunque en la solicitud se indiquen otros. Lo mismo ocurre con la privacidad. Si un modelo virtual exige Zero Data Retention o proveedores que no entrenan con los datos de las solicitudes, esto se aplica aunque la solicitud establezca explícitamente zeroDataRetention o disallowPromptTraining en false.

Las etiquetas también se reemplazan. Las etiquetas del modelo virtual sustituyen a las de la solicitud, de modo que los costes siempre se asignan a la tarea, sin importar cómo etiquete la aplicación sus llamadas. En la página de Virtual Models se ven las solicitudes, el gasto y la proporción de respuestas exitosas por cada tarea.

Qué significa en la práctica

Los modelos virtuales funcionan con todos los tipos de modelos de AI Gateway: de texto, imágenes, vídeo, voz, embeddings y realtime. Son compatibles con AI SDK y con las API compatibles con OpenAI y Anthropic. Según afirma Vercel, la pasarela aplica los precios de los proveedores sin recargo y no cobra comisión de plataforma por la inferencia, incluido el uso de claves propias (BYOK).

Hay una limitación que conviene tener presente desde el principio: te vinculas a AI Gateway como capa de gestión, y cambiar la configuración sin desplegar significa que un error de configuración llega directamente a producción. Por eso, el esquema con candidato y evals no es un mero trámite. Para equipos con varios agentes y decenas de tareas, es una forma práctica de dejar de redesplegar cada vez que aparece un modelo nuevo, manteniendo el control sobre la privacidad y los costes.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué es un modelo virtual?

Un modelo virtual es un ID de tarea que se utiliza en lugar del nombre del modelo. Por ejemplo, creas vmc/coding-agent y, una sola vez, indicas en AI Gateway qué hay detrás: qué modelo, qué velocidad y si necesitas Zero Data Retention (prohibición de almacenar las solicitudes en el proveedor). Puedes crear ese ID desde el panel del equipo o mediante Vercel CLI. A partir de ahí, en el código solo queda ese ID.

¿Qué se sabe sobre Un modelo propio para cada tarea?

Las tareas difieren mucho en carga. El procesamiento de tickets de soporte puede ejecutarse cientos de veces por hora, y ahí lo que importa es el coste. La revisión de contratos legales se hace varias veces al día, pero exige un razonamiento sólido. Antes, estas decisiones solían estar dispersas por los repositorios. Ahora cada tarea tiene su propio ID virtual, y su configuración puede cambiarse de forma independiente al resto.

¿Qué se sabe sobre Control para equipos de plataforma y seguridad?

Cualquier miembro del equipo puede invocar un modelo virtual, pero solo quienes tengan el rol adecuado pueden modificar su configuración. Esto ofrece a los equipos de plataforma y de seguridad un punto de control centralizado. Ellos deciden qué modelos están disponibles y con qué parámetros, y a la vez pueden dar acceso rápido a los desarrolladores a las nuevas versiones. Un detalle importante: la configuración del modelo virtual tiene prioridad sobre la de la solicitud.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…