Kimi K3 en Amazon Bedrock ya funciona en India: los datos no salen del país

Si desarrolla un producto para el sector fintech o la administración pública de India, conocerá bien el problema: los datos de los clientes no pueden salir del país, mientras que los mejores modelos suelen ejecutarse en algún lugar de Estados Unidos. AWS ha cerrado esa brecha para Kimi K3 de Moonshot AI. Amazon Bedrock ofrece ahora un perfil de inferencia que procesa las solicitudes únicamente en las regiones de Mumbai y Hyderabad.

Cómo elegir dónde se procesa una solicitud

Kimi K3 en Bedrock funciona mediante perfiles de inferencia entre regiones. El usuario invoca el modelo desde su propia región y Bedrock decide dónde ejecutarlo. El ID del perfil determina el conjunto de regiones permitidas.

AWS recomienda el perfil global global.moonshotai.kimi-k3 para la mayoría de las cargas de trabajo: es el más barato y el que ofrece mayor disponibilidad. Si necesita residencia de datos, utilice in.moonshotai.kimi-k3: el procesamiento permanece en Mumbai y Hyderabad. El tráfico entre regiones está cifrado y no pasa por la Internet pública, y no es necesario configurar una VPC multirregión propia.

En la práctica, los permisos son importantes. La política de IAM debe permitir llamadas a las dos regiones de destino en India, no solo a la región desde la que se envía la solicitud. Si la organización aplica restricciones regionales mediante SCP, habrá que modificarlas o las solicitudes fallarán. Los registros y las métricas se almacenan en la región de origen, mientras que CloudTrail puede incluir el campo inferenceRegion para comprobar dónde se procesó realmente cada solicitud.

Ejemplo: leer una factura en hindi sin OCR

AWS muestra un caso de uso típico para formularios de KYC y facturas de servicios. Se envía en base64 la imagen de una factura de electricidad y el modelo lee directamente el texto en devanagari. Después se le pueden formular preguntas en hinglish, es decir, hindi escrito con el alfabeto latino y mezclado con inglés. Por ejemplo: “Bill kitne ka hai aur last date kab hai?” El modelo responde con el importe de 2.217,20 rupias y la fecha límite de pago.

Para obtener una salida estructurada se utiliza function calling o JSON Schema. El pipeline del ejemplo hace cuatro cosas: transcribe el documento en su escritura original, extrae los campos en JSON, normaliza las fechas conforme a ISO 8601, convierte los números devanagari en dígitos convencionales y translitera los nombres. Después redacta un breve resumen en inglés y responde preguntas de seguimiento.

El artículo ofrece un par de consejos prácticos. Para los detalles pequeños, use detail: high: es más preciso, pero consume más tokens. Colocar la imagen antes del texto puede mejorar la calidad en algunos casos. La conexión puede realizarse con la biblioteca openai habitual porque la API es compatible con OpenAI; el token se genera a partir de credenciales estándar de AWS.

Costes: niveles y caché

La principal cifra del artículo procede de un cliente. Ultrahuman utiliza Kimi K3 en Jade, un asistente que responde preguntas sobre los datos de su anillo inteligente y de glucosa en más de 14.000 conversaciones diarias. Según la empresa, la caché de prompts redujo los costes un 80% y aceleró un 85% los chats de varios turnos. Es una afirmación de la propia compañía publicada en un blog de socios de AWS y no cuenta con verificación independiente.

Para reproducir el efecto, coloque la parte estática —el prompt del sistema y las descripciones de las herramientas— al principio de la solicitud, y el contenido dinámico, como la imagen y la pregunta, al final. Existe un modo de caché implícito que funciona automáticamente y otro explícito en el que se definen breakpoints para conseguir más aciertos de caché. Para tareas sin requisitos estrictos de latencia, el nivel flex ofrece un descuento del 50%; para las urgentes existe el nivel priority, con un coste adicional.

Qué hacer con esto

Si tiene clientes indios que exigen que sus datos permanezcan en el país, ahora puede utilizar un potente modelo abierto sin alojarlo por su cuenta. Comience comprobando IAM y SCP y, después, cree un prototipo de extracción de campos con 20–30 documentos reales. La propia AWS aconseja no confiar ciegamente en la extracción automatizada: añada validación y revisión humana a los procesos críticos. Las afirmaciones sobre el rendimiento de nivel “frontera” del modelo proceden de Moonshot AI, así que compárelo con su modelo actual utilizando sus propios datos.