AWS muestra cómo dar a los desarrolladores acceso a Claude con clave personal y un límite de $250 cada 7 días
Si todo el equipo usa Claude a través de Amazon Bedrock, el departamento financiero no puede ver quién gasta cuánto. AWS recomienda colocar entre el editor de código y Bedrock el proxy LiteLLM, con una interfaz compatible con OpenAI, de modo que cada desarrollador tenga su propia clave. En el ejemplo, cada clave tiene un límite de $250 en una ventana deslizante de 7 días. Así, el gasto en asistentes de IA se ve por persona y no como una única cifra en la factura.
Procesado por IA desde AWS Machine Learning Blog; editado por Hamidun News
Imagine una empresa donde los desarrolladores han conectado Claude Code, Continue o Cursor a los modelos Claude a través de Amazon Bedrock, el servicio en la nube de AWS con modelos de lenguaje listos para usar. Al mes llega una única factura por los tokens, y nadie puede decir qué equipo o qué persona los consumió. Los ingenieros de plataforma necesitan ver latencias y errores, los responsables financieros necesitan repartir los costes por proyecto y el equipo de seguridad necesita reglas de acceso unificadas.
AWS ha publicado un análisis de cómo resolver las tres cosas con una sola puerta de enlace: un servidor intermedio entre las herramientas de los desarrolladores y Bedrock. El ejemplo de un límite de $250 por clave en una ventana deslizante de 7 días es didáctico en el artículo, y las cifras de la configuración pueden modificarse.
Cómo funciona la puerta de enlace
La base es el proxy LiteLLM, que se ejecuta como contenedor en AWS Fargate (un servicio para lanzar contenedores sin gestionar servidores) y se presenta como la API de OpenAI. El desarrollador introduce en su herramienta una sola dirección y su clave personal. No se comunica directamente con Bedrock. El nombre del modelo en la configuración, por ejemplo claude-sonnet-4-20250514, LiteLLM lo convierte automáticamente en la referencia al perfil correspondiente en Bedrock y accede a él mediante el rol IAM de la tarea de Fargate.
Alrededor del proxy se monta un conjunto habitual de servicios:
- PostgreSQL en Amazon RDS almacena las claves y el registro de gastos.
- ElastiCache for Valkey guarda en caché las respuestas y coordina los límites de peticiones entre varias copias de la puerta de enlace.
- Secrets Manager guarda la clave maestra y la contraseña de la base de datos, que no pueden escribirse en config.yaml.
- Langfuse, de código abierto, muestra los prompts y las latencias y ayuda a analizar los fallos.
- CloudWatch recopila las métricas de peticiones por minuto (RPM) y de tokens por minuto (TPM), así como una señal de aproximación a la cuota.
Para cada modelo se crea un Application Inference Profile independiente, es decir, un punto de entrada con nombre en Bedrock. Este perfil proporciona una cuota aislada para el modelo y permisos de acceso detallados. También separa la configuración de LiteLLM de las versiones de los modelos en Bedrock. Por eso el modelo puede sustituirse, puede añadirse un modelo de respaldo o cambiarse de proveedor sin que los desarrolladores noten ningún cambio.
Los administradores definen en el portal la política de gasto, y los desarrolladores generan sus propias claves dentro de ese marco. El portal puede vincularse al SSO corporativo.
Límites y trampas
El presupuesto se define en la configuración: max_budget: 250 y budget_duration: 7d dan $250 por clave en una ventana deslizante de 7 días. Para los modos largos con extended thinking, el ejemplo eleva el tiempo de espera a 900 segundos, es decir, 15 minutos.
Los autores enumeran trampas en las que es fácil perder horas:
- Si el modelo se especifica con el ARN bruto del perfil, LiteLLM no lo encuentra en su tabla de precios y calcula el coste como cero. El gasto de la clave permanece en cero y los presupuestos nunca se activan. Los precios por token deben indicarse manualmente en el bloque model_info.
- Para un perfil global, el campo copyFrom necesita el ARN del perfil del sistema con el prefijo global., y no el ARN del propio modelo. De lo contrario, se obtiene un perfil para una sola región, sin enrutamiento entre regiones.
- En la política IAM no basta con indicar el perfil. También hacen falta el ARN del modelo base en la región y los ARN por máscara para otras regiones. Si no, al invocarlo aparece el error «not authorized to perform bedrock:InvokeModel».
AWS recomienda el cross-Region inference global si los modelos elegidos lo admiten y la política de la empresa permite procesar peticiones en distintas regiones del mundo. En ese caso, Bedrock dirige la petición a donde haya capacidad disponible, lo que puede resultar más barato que la opción geográfica. Si los datos deben permanecer dentro de una misma zona geográfica, conviene usar el perfil geográfico, por ejemplo uno que solo abarque regiones de Estados Unidos.
Limitaciones
Según la documentación, la versión gratuita de LiteLLM AI Gateway está pensada para pilotos y admite cinco usuarios; a partir de ahí se necesita licencia. Las claves virtuales también existen en la versión gratuita, pero la autogestión de claves descrita en el artículo requiere LiteLLM Enterprise. Esta edición incluye además SSO, registros de auditoría, roles de administración delegados y soporte. Bedrock Guardrails, con filtrado de contenido y verificación de la fundamentación de las respuestas, no se trata en el ejemplo, pero en producción debe añadirse.
Conclusión práctica: si una empresa tiene más de cinco desarrolladores con asistentes de IA, la puerta de enlace ofrece control del gasto y observabilidad sin modificar cada herramienta. Antes del despliegue conviene revisar tres cosas: los precios de los tokens en model_info, los permisos IAM y adónde van los prompts en Langfuse, ya que las trazas contienen los textos de las peticiones y las respuestas.
- 21 nov 2026Anthropic recorta un 20 % el precio de Claude Fable 5.2 y, en una prueba de código, queda casi a la altura de Opus 5.5
- 21 nov 2026Dreamteam recauda 53 millones de dólares para un CRM que se alimenta solo a partir del correo y las llamadas
- 21 nov 2026La IA Claude Opus 5.5 completa el terror Dimension 9 a partir de 15 habitaciones del autor
- 21 nov 202622 agentes de Claude pasaron seis semanas buscando respuestas sobre agujeros negros, y resolvieron dos problemas
Preguntas frecuentes sobre la noticia
Cómo funciona la puerta de enlace?
La base es el proxy LiteLLM, que se ejecuta como contenedor en AWS Fargate (un servicio para lanzar contenedores sin gestionar servidores) y se presenta como la API de OpenAI. El desarrollador introduce en su herramienta una sola dirección y su clave personal. No se comunica directamente con Bedrock.
¿Qué se sabe sobre Límites y trampas?
El presupuesto se define en la configuración: max_budget: 250 y budget_duration: 7d dan $250 por clave en una ventana deslizante de 7 días. Para los modos largos con extended thinking, el ejemplo eleva el tiempo de espera a 900 segundos, es decir, 15 minutos. Los autores enumeran trampas en las que es fácil perder horas: Si el modelo se especifica con el ARN bruto del perfil, LiteLLM no lo encuentra en su tabla de precios y calcula el coste como cero.
¿Qué se sabe sobre Limitaciones?
Según la documentación, la versión gratuita de LiteLLM AI Gateway está pensada para pilotos y admite cinco usuarios; a partir de ahí se necesita licencia. Las claves virtuales también existen en la versión gratuita, pero la autogestión de claves descrita en el artículo requiere LiteLLM Enterprise. Esta edición incluye además SSO, registros de auditoría, roles de administración delegados y soporte.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.