Kimi K3.1 Pro Highspeed llega a Amazon Bedrock: genera tokens entre 2–3 veces más rápido

Si desarrollas un agente de programación, sabes que el principal problema no es el precio del token, sino la espera. El agente lee archivos, planifica un cambio, escribe código, ejecuta pruebas y corrige los fallos; cada paso espera a que termine el anterior. Por eso, aquí la velocidad de generación importa más que una cifra llamativa en un benchmark. Esa es la baza del nuevo lanzamiento en Amazon Bedrock: Kimi K3.1 Pro Highspeed de Moonshot AI.

Qué modelo es

Kimi K3.1 Pro Highspeed forma parte de la nueva serie K3.1. Es una versión de Kimi K3 con entrenamiento posterior: mantiene la arquitectura de pesos abiertos de 3 billones de parámetros y la ventana de contexto de un millón de tokens, pero incorpora un volumen de entrenamiento posterior considerablemente mayor. Según Moonshot AI, ese entrenamiento busca mejorar las tareas largas de los agentes y reducir los errores factuales. La empresa también promete mejoras en usos profesionales, como el modelado financiero y los documentos ofimáticos, así como en código para motores de videojuegos, escenas 3D y scripts de CAD.

La clave del nombre Highspeed: según Moonshot AI, el modelo genera tokens de salida entre 2–3 veces más rápido que K3.1 Pro. Es una afirmación del proveedor y el artículo no incluye mediciones independientes, así que prueba tus propias tareas antes de adaptar tu entorno de producción al modelo.

El modelo admite llamadas a herramientas, salida estructurada, razonamiento configurable, imágenes de entrada y streaming. En materia de seguridad, AWS asegura que los datos se procesan dentro de los límites de AWS, no se envían a Moonshot AI y no se utilizan para entrenamiento. Las solicitudes de inferencia siempre tienen activada la retención cero, y los operadores de AWS no ven tus prompts ni las respuestas.

Cómo conectarse: apenas hay que cambiar nada

El modelo está disponible en el endpoint bedrock-runtime mediante Chat Completions y Responses API compatibles con OpenAI, además de Converse e Invoke. AWS recomienda Chat Completions. Si la aplicación ya utiliza el SDK de OpenAI, basta con apuntarla al endpoint de Bedrock y cambiar el nombre del modelo. Quienes ya usan Kimi K3 en Bedrock ni siquiera necesitan hacer eso: el endpoint, la API y las funciones son los mismos; solo cambia el ID del modelo.

El acceso se realiza mediante perfiles de inferencia entre regiones:

• global.moonshotai.kimi-k3.1 — enruta las solicitudes a cualquier región comercial compatible, tiene un menor coste por token y sirve para la mayoría de las tareas;
• us.moonshotai.kimi-k3.1 — procesa las solicitudes únicamente en regiones de Estados Unidos;
• in.moonshotai.kimi-k3.1 — procesa las solicitudes únicamente en regiones de India, para cumplir requisitos de ubicación de los datos.

Si no tienes requisitos estrictos de residencia de datos, elige global.

Hay un detalle adicional: el modelo siempre razona antes de responder. La profundidad se configura con el parámetro reasoning_effort (reasoning.effort en Responses API), que admite los valores low, high o max. Si no se especifica, se utiliza max. Para las consultas sencillas, eso supone tokens y latencia adicionales, así que establecer low explícitamente es la forma más directa de acelerar la respuesta y reducir la factura.

Dónde ahorrar: Flex y caché explícita

La tarifa Flex permite usar el modelo por la mitad del precio de Standard, pero el tiempo de respuesta puede ser mayor. Es adecuada para evaluar modelos, generar resúmenes y ejecutar tareas en segundo plano dentro de cadenas de agentes. La tarifa se elige para cada solicitud: las que requieren baja latencia pueden pasar por Priority; el tráfico habitual, por Standard; y el resto, por Flex. La cuota es compartida. AWS aconseja empezar con una pequeña proporción del tráfico en Flex y comparar la latencia y el coste, además de consultar el desglose por tarifas en CloudWatch.

La segunda vía de ahorro es la caché explícita de prompts. Los agentes y asistentes reenvían en cada turno el mismo prefijo largo: instrucciones del sistema, descripciones de herramientas y reglas del repositorio. El modelo almacena automáticamente en caché los prefijos repetidos, y los puntos de control explícitos permiten indicar dónde termina la parte estable y aumentar la tasa de aciertos de caché. Estas son las reglas:

• funciona en Chat Completions, Responses e Invoke, pero no en Converse;
• el punto de control debe situarse después de un mínimo de 256 tokens de contenido estable;
• la caché se conserva al menos 30 minutos;
• escribir en la caché cuesta más que la entrada normal; leerla cuesta menos y no cuenta para la cuota de tokens de entrada por minuto.

Comprobar un acierto de caché es sencillo: el campo cached_tokens de usage debe ser mayor que cero.

Conclusión práctica

El artículo muestra cómo conectar el modelo a OpenCode, un agente de programación abierto que funciona en la terminal y no está ligado a un único modelo. Hay que configurar un proveedor compatible con OpenAI basado en Chat Completions y una clave de la API de Bedrock. Las claves de corta duración tienen una vigencia de hasta 12 horas, solo funcionan en la región donde se crearon y se recomiendan para producción; las de larga duración se recomiendan para experimentos. En OpenCode, los niveles de razonamiento low, high y max aparecerán como variantes del modelo.

Qué hacer en la práctica. Para desarrolladores que trabajan con agentes: cambiar el ID en un entorno de pruebas, medir la duración del ciclo completo «cambio — prueba — corrección» y compararla con K3.1 Pro convencional. Para responsables de producto: repartir el tráfico entre tarifas para que las tareas en segundo plano pasen por Flex. Para todos: no dejar reasoning_effort en su valor predeterminado cuando low sea suficiente.

Las limitaciones son claras. La aceleración de 2–3 veces y la reducción de errores son afirmaciones de Moonshot AI, sin verificación independiente. El artículo no incluye precios; habrá que consultarlos en la página de tarifas de Bedrock. La caché no funciona a través de Converse, así que para pasar a la caché explícita habrá que cambiar de API.