Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
InfraestructuraAnálisis · En radarAWS Machine Learning Blog→ original

SageMaker lanza tareas en segundos: una imagen de 35,4 GB arranca en 3–11 s en lugar de 7 minutos

Hasta ahora, SageMaker descargaba la imagen del contenedor completa antes de ejecutar el código, y usted pagaba minutos de GPU parada. Ahora, con un índice SOCI, solo se descargan los archivos necesarios para el arranque y el resto se completa en segundo plano, como una película en streaming. Una imagen de 35,4 GB que antes tardaba 7 minutos y 17 segundos arranca en 3–11 segundos, y el tiempo ocioso de la GPU durante la carga se reduce hasta un 90 %. Para experimentos cortos y búsquedas de hiperparámetros basta con cambiar la etiqueta de la imagen.

Procesado por IA desde AWS Machine Learning Blog; editado por Hamidun News
SageMaker lanza tareas en segundos: una imagen de 35,4 GB arranca en 3–11 s en lugar de 7 minutos
Fuente: AWS Machine Learning Blog. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalAWS Machine Learning Blog ↗
Editor jefe
Dato clave #1El tiempo ocioso de la GPU durante la carga de la imagen se redujo hasta un 90 % en las mediciones de AWS
Dato clave #2La primera época tarda entre 3 y 16 s más, pero la tarea termina entre 1 y 6 minutos antes
Dato clave #3Solo para Amazon ECR privado; las imágenes de hasta ~4 GB apenas se benefician

Cada minuto que un contenedor de aprendizaje profundo dedica a descargarse es un minuto que usted paga y un minuto que espera su equipo. Las imágenes para PyTorch o TensorFlow fácilmente superan los 10 GB. Antes de ejecutar su código, SageMaker descarga la imagen completa, la descomprime y escribe cada capa en disco. En una imagen grande, eso supone varios minutos de tiempo facturado en los que el modelo no avanza ni un paso. AWS anunció que, en las tareas de entrenamiento (Training) y procesamiento de datos (Processing) de SageMaker AI, ya funciona la indexación con Seekable OCI, o SOCI. Esta técnica saca la descarga completa de la imagen de la ruta crítica del arranque.

Cómo funciona

SOCI es una tecnología de código abierto para la carga diferida de contenedores. Piense en el streaming de una película: el reproductor empieza a reproducir mientras descarga el resto sobre la marcha, sin obligarle a esperar a que termine la descarga. Aquí ocurre lo mismo. El runtime, guiándose por el índice, descarga solo los archivos necesarios para arrancar el contenedor y completa el resto en segundo plano, cuando el código accede a ellos.

El índice son metadatos con la lista de todos los archivos de la imagen. Se almacena en Amazon ECR como un artefacto independiente junto a la imagen original, de modo que el digest de la imagen y las firmas existentes siguen siendo válidos. No hace falta modificar la definición de la tarea, el punto de entrada ni los canales de datos.

SageMaker comprueba por sí misma si la imagen tiene índice. Si lo tiene, se activa la carga diferida. Si no lo tiene, la tarea descarga la imagen de la forma habitual. Si el índice no se puede leer o la carga diferida no funciona, la tarea también recurre a la descarga normal y sigue ejecutándose. No es posible romper un proceso existente añadiendo un índice.

Qué mostraron las mediciones

AWS comparó la descarga habitual con SOCI en ocho imágenes de entre 1,8 y 35,4 GB. Se usaron instancias con GPU y con CPU, desde ml.g4dn hasta ml.p5 y ml.m7i, en las regiones us-west-2 y us-east-1. El tiempo se midió desde el inicio de la descarga de la imagen hasta que el contenedor estaba listo. Todas las cifras son medianas de ejecuciones repetidas:

  • imagen de 1,8 GB: 48 segundos con descarga habitual frente a 3–11 segundos con SOCI;
  • imagen de 13,2 GB: 3 minutos y 42 segundos frente a unos 6 segundos;
  • imagen de 35,4 GB: 7 minutos y 17 segundos frente a 3–11 segundos.

La carga diferida se mantiene en 3–11 segundos independientemente del tamaño de la imagen, por lo que cuanto más grande es, más se nota la ventaja. Para la imagen de 13,2 GB se probaron 13 combinaciones de tipos y tamaños de instancia. La descarga habitual tardaba entre 3 minutos y 16 segundos y 4 minutos y 20 segundos; la carga diferida, entre 6 y 8 segundos, es decir, unas 34 veces más rápida en cualquier configuración. No hace falta cambiar de instancia para obtener el efecto.

Además, se comprobó si el propio entrenamiento se resiente. Se ejecutó la clasificación de imágenes ResNet-50 sobre Imagenette (9.469 imágenes) y el ajuste fino completo de Qwen2.5-0.5B sobre alpaca-cleaned (51.760 ejemplos). A partir de la segunda época, el tiempo por época es el mismo. La primera época en una imagen con índice dura entre 3 y 16 segundos más: el framework accede por primera vez a los archivos y hay que descargarlos. Al final, cada tarea terminó entre 1 y 6 minutos antes. AWS afirma que el tiempo ocioso de la GPU durante la carga de la imagen se redujo hasta un 90 %.

Limitaciones y cómo activarlo

La ventaja depende de su código. Si el punto de entrada lee casi toda la imagen al principio (la escanea, calcula sumas de comprobación o precarga contenido), la primera época espera aproximadamente los mismos bytes que con la descarga completa y el ahorro final será pequeño. Aun así, incluso los arranques pesados quedaron en positivo en las pruebas.

torch.compile y la compilación JIT de extensiones de CUDA añadieron entre 7 y 15 segundos a la primera época, pero el ahorro neto fue de entre 3 minutos y 25 segundos y 3 minutos y 56 segundos. Un modelo de 6 GB dentro de la imagen se cargó en 2–3,5 minutos durante el arranque, y aun así la tarea terminó entre 2 y 2,5 minutos antes.

Puntos a tener en cuenta:

  • solo funciona con repositorios privados de Amazon ECR; las imágenes de otros registros y el modo TrainingRepositoryAccessMode=Vpc no son compatibles;
  • para imágenes de menos de unos 4 GB, la mejora es modesta;
  • AWS recomienda revisar los scripts por si dependen de Docker antes de cambiar al nuevo método de carga.

Hay dos formas de activarlo. La primera: usar un AWS Deep Learning Container con el sufijo -soci en la etiqueta. Existen variantes para PyTorch Training, TensorFlow Training, vLLM y SGLang.

La segunda: indexar su propia imagen con el comando nerdctl image convert --soci en un host Linux con containerd y el snapshotter de SOCI, y luego subirla a ECR. Si su imagen está basada en un DLC, el índice de la imagen base no se hereda, así que hay que generar uno nuevo para la imagen final. La creación de índices se puede automatizar en CI/CD con CFN ECR SOCI Index Builder: reacciona a los eventos de push en ECR mediante EventBridge y no obliga a modificar el pipeline de compilación.

Para los equipos que lanzan cientos de tareas cortas al buscar hiperparámetros, es un ahorro casi gratuito: solo cambia la etiqueta de la imagen. Antes de nada, compruebe en su pipeline qué parte de la imagen lee el código al arrancar. De eso depende cuánto ahorrará realmente.

Historia

Preguntas frecuentes sobre la noticia

Cómo funciona?

SOCI es una tecnología de código abierto para la carga diferida de contenedores. Piense en el streaming de una película: el reproductor empieza a reproducir mientras descarga el resto sobre la marcha, sin obligarle a esperar a que termine la descarga. Aquí ocurre lo mismo. El runtime, guiándose por el índice, descarga solo los archivos necesarios para arrancar el contenedor y completa el resto en segundo plano, cuando el código accede a ellos.

¿Qué se sabe sobre Qué mostraron las mediciones?

AWS comparó la descarga habitual con SOCI en ocho imágenes de entre 1,8 y 35,4 GB. Se usaron instancias con GPU y con CPU, desde ml.g4dn hasta ml.p5 y ml.m7i, en las regiones us-west-2 y us-east-1. El tiempo se midió desde el inicio de la descarga de la imagen hasta que el contenedor estaba listo.

¿Qué se sabe sobre Limitaciones y cómo activarlo?

La ventaja depende de su código. Si el punto de entrada lee casi toda la imagen al principio (la escanea, calcula sumas de comprobación o precarga contenido), la primera época espera aproximadamente los mismos bytes que con la descarga completa y el ahorro final será pequeño. Aun así, incluso los arranques pesados quedaron en positivo en las pruebas.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…