SageMaker lanza tareas en segundos: una imagen de 35,4 GB arranca en 3–11 s en lugar de 7 minutos
Hasta ahora, SageMaker descargaba la imagen del contenedor completa antes de ejecutar el código, y usted pagaba minutos de GPU parada. Ahora, con un índice SOCI, solo se descargan los archivos necesarios para el arranque y el resto se completa en segundo plano, como una película en streaming. Una imagen de 35,4 GB que antes tardaba 7 minutos y 17 segundos arranca en 3–11 segundos, y el tiempo ocioso de la GPU durante la carga se reduce hasta un 90 %. Para experimentos cortos y búsquedas de hiperparámetros basta con cambiar la etiqueta de la imagen.
Procesado por IA desde AWS Machine Learning Blog; editado por Hamidun News
Cada minuto que un contenedor de aprendizaje profundo dedica a descargarse es un minuto que usted paga y un minuto que espera su equipo. Las imágenes para PyTorch o TensorFlow fácilmente superan los 10 GB. Antes de ejecutar su código, SageMaker descarga la imagen completa, la descomprime y escribe cada capa en disco. En una imagen grande, eso supone varios minutos de tiempo facturado en los que el modelo no avanza ni un paso. AWS anunció que, en las tareas de entrenamiento (Training) y procesamiento de datos (Processing) de SageMaker AI, ya funciona la indexación con Seekable OCI, o SOCI. Esta técnica saca la descarga completa de la imagen de la ruta crítica del arranque.
Cómo funciona
SOCI es una tecnología de código abierto para la carga diferida de contenedores. Piense en el streaming de una película: el reproductor empieza a reproducir mientras descarga el resto sobre la marcha, sin obligarle a esperar a que termine la descarga. Aquí ocurre lo mismo. El runtime, guiándose por el índice, descarga solo los archivos necesarios para arrancar el contenedor y completa el resto en segundo plano, cuando el código accede a ellos.
El índice son metadatos con la lista de todos los archivos de la imagen. Se almacena en Amazon ECR como un artefacto independiente junto a la imagen original, de modo que el digest de la imagen y las firmas existentes siguen siendo válidos. No hace falta modificar la definición de la tarea, el punto de entrada ni los canales de datos.
SageMaker comprueba por sí misma si la imagen tiene índice. Si lo tiene, se activa la carga diferida. Si no lo tiene, la tarea descarga la imagen de la forma habitual. Si el índice no se puede leer o la carga diferida no funciona, la tarea también recurre a la descarga normal y sigue ejecutándose. No es posible romper un proceso existente añadiendo un índice.
Qué mostraron las mediciones
AWS comparó la descarga habitual con SOCI en ocho imágenes de entre 1,8 y 35,4 GB. Se usaron instancias con GPU y con CPU, desde ml.g4dn hasta ml.p5 y ml.m7i, en las regiones us-west-2 y us-east-1. El tiempo se midió desde el inicio de la descarga de la imagen hasta que el contenedor estaba listo. Todas las cifras son medianas de ejecuciones repetidas:
- imagen de 1,8 GB: 48 segundos con descarga habitual frente a 3–11 segundos con SOCI;
- imagen de 13,2 GB: 3 minutos y 42 segundos frente a unos 6 segundos;
- imagen de 35,4 GB: 7 minutos y 17 segundos frente a 3–11 segundos.
La carga diferida se mantiene en 3–11 segundos independientemente del tamaño de la imagen, por lo que cuanto más grande es, más se nota la ventaja. Para la imagen de 13,2 GB se probaron 13 combinaciones de tipos y tamaños de instancia. La descarga habitual tardaba entre 3 minutos y 16 segundos y 4 minutos y 20 segundos; la carga diferida, entre 6 y 8 segundos, es decir, unas 34 veces más rápida en cualquier configuración. No hace falta cambiar de instancia para obtener el efecto.
Además, se comprobó si el propio entrenamiento se resiente. Se ejecutó la clasificación de imágenes ResNet-50 sobre Imagenette (9.469 imágenes) y el ajuste fino completo de Qwen2.5-0.5B sobre alpaca-cleaned (51.760 ejemplos). A partir de la segunda época, el tiempo por época es el mismo. La primera época en una imagen con índice dura entre 3 y 16 segundos más: el framework accede por primera vez a los archivos y hay que descargarlos. Al final, cada tarea terminó entre 1 y 6 minutos antes. AWS afirma que el tiempo ocioso de la GPU durante la carga de la imagen se redujo hasta un 90 %.
Limitaciones y cómo activarlo
La ventaja depende de su código. Si el punto de entrada lee casi toda la imagen al principio (la escanea, calcula sumas de comprobación o precarga contenido), la primera época espera aproximadamente los mismos bytes que con la descarga completa y el ahorro final será pequeño. Aun así, incluso los arranques pesados quedaron en positivo en las pruebas.
torch.compile y la compilación JIT de extensiones de CUDA añadieron entre 7 y 15 segundos a la primera época, pero el ahorro neto fue de entre 3 minutos y 25 segundos y 3 minutos y 56 segundos. Un modelo de 6 GB dentro de la imagen se cargó en 2–3,5 minutos durante el arranque, y aun así la tarea terminó entre 2 y 2,5 minutos antes.
Puntos a tener en cuenta:
- solo funciona con repositorios privados de Amazon ECR; las imágenes de otros registros y el modo TrainingRepositoryAccessMode=Vpc no son compatibles;
- para imágenes de menos de unos 4 GB, la mejora es modesta;
- AWS recomienda revisar los scripts por si dependen de Docker antes de cambiar al nuevo método de carga.
Hay dos formas de activarlo. La primera: usar un AWS Deep Learning Container con el sufijo -soci en la etiqueta. Existen variantes para PyTorch Training, TensorFlow Training, vLLM y SGLang.
La segunda: indexar su propia imagen con el comando nerdctl image convert --soci en un host Linux con containerd y el snapshotter de SOCI, y luego subirla a ECR. Si su imagen está basada en un DLC, el índice de la imagen base no se hereda, así que hay que generar uno nuevo para la imagen final. La creación de índices se puede automatizar en CI/CD con CFN ECR SOCI Index Builder: reacciona a los eventos de push en ECR mediante EventBridge y no obliga a modificar el pipeline de compilación.
Para los equipos que lanzan cientos de tareas cortas al buscar hiperparámetros, es un ahorro casi gratuito: solo cambia la etiqueta de la imagen. Antes de nada, compruebe en su pipeline qué parte de la imagen lee el código al arrancar. De eso depende cuánto ahorrará realmente.
- 21 nov 2026Nvidia duplicó sus beneficios, pero sus acciones cayeron un 2% por la búsqueda de un nuevo consejero delegado
- 21 nov 2026Nous Research reentrenó Qwen3.8 y la propaganda en sus respuestas bajó del 22% al 1%
- 21 nov 2026Samsung quiere comprar Modine, proveedor de refrigeración para centros de datos, por casi 6000 millones de dólares
- 21 nov 2026Reuters: los proyectos de IA en China por 3.200 millones de dólares dependen de los chips de Nvidia, y Huang deja la compañía
Preguntas frecuentes sobre la noticia
Cómo funciona?
SOCI es una tecnología de código abierto para la carga diferida de contenedores. Piense en el streaming de una película: el reproductor empieza a reproducir mientras descarga el resto sobre la marcha, sin obligarle a esperar a que termine la descarga. Aquí ocurre lo mismo. El runtime, guiándose por el índice, descarga solo los archivos necesarios para arrancar el contenedor y completa el resto en segundo plano, cuando el código accede a ellos.
¿Qué se sabe sobre Qué mostraron las mediciones?
AWS comparó la descarga habitual con SOCI en ocho imágenes de entre 1,8 y 35,4 GB. Se usaron instancias con GPU y con CPU, desde ml.g4dn hasta ml.p5 y ml.m7i, en las regiones us-west-2 y us-east-1. El tiempo se midió desde el inicio de la descarga de la imagen hasta que el contenedor estaba listo.
¿Qué se sabe sobre Limitaciones y cómo activarlo?
La ventaja depende de su código. Si el punto de entrada lee casi toda la imagen al principio (la escanea, calcula sumas de comprobación o precarga contenido), la primera época espera aproximadamente los mismos bytes que con la descarga completa y el ahorro final será pequeño. Aun así, incluso los arranques pesados quedaron en positivo en las pruebas.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.