Modal impulsa gVisor: aislamiento de tareas de IA con arranque del entorno aislado en 25 ms

Si su agente de IA puede ejecutar Python, instalar paquetes y lanzar comandos, ya está construyendo un servicio que ejecuta código ajeno. Un contenedor convencional ayuda a separar entornos, pero deja a las aplicaciones compartiendo el núcleo de Linux. Un fallo en ese núcleo puede convertir la ejecución fallida de un script en un problema para toda la máquina. Modal propone echar un vistazo a gVisor: según la empresa, el entorno aislado arranca en unos 25 ms y añade un consumo de memoria de aproximadamente 12 MB.

El anuncio llega con un cambio en la gobernanza del proyecto. Según la publicación de Modal, Google transfiere gVisor, incluidos su nombre y sus marcas comerciales, a la CNCF, mientras que la dirección técnica pasa a manos de quienes mantienen el proyecto. Modal, Ant Group y Tines se han comprometido a sumarse a ese grupo. Para quienes desarrollan infraestructura, lo más relevante es la continuidad del soporte para GPU, las comunicaciones de red y la compatibilidad con las herramientas habituales.

Qué ocurre entre el script y el servidor

Imagine un servicio en el que un agente descarga el repositorio de un usuario y ejecuta pruebas. Puede contener dependencias desconocidas, scripts de instalación y comandos arbitrarios. En un contenedor convencional, sus llamadas al sistema las atiende el núcleo del host, el mismo que utilizan las tareas vecinas.

gVisor sitúa entre la aplicación y el host su propio núcleo de software, Sentry, escrito en Go. Este implementa por sí mismo la interfaz de llamadas al sistema de Linux y accede al núcleo real mediante un conjunto limitado de operaciones. El programa dispone de un entorno familiar, pero su acceso al servidor pasa por una comprobación adicional.

El propio Sentry también está restringido mediante mecanismos de Linux: espacios de nombres, límites de recursos y filtros seccomp. Son varias capas de protección, no una promesa de seguridad absoluta. Además, no requiere virtualización por hardware: el enfoque también sirve para máquinas virtuales en la nube donde no está disponible la virtualización anidada.

Modal afirma que arranca más de 40 millones de contenedores gVisor al día. Entre las cargas de trabajo figuran la inferencia, el entrenamiento en varias máquinas y los entornos aislados para agentes. Es la experiencia de un solo proveedor, pero demuestra que la tecnología se utiliza mucho más allá de los entornos de demostración.

GPU dentro del entorno aislado: dónde surgen las dificultades

Aislar un script no basta: a menudo necesita CUDA, varias GPU y transferencias de datos rápidas. Para NVIDIA, gVisor cuenta con nvproxy. Este analiza y valida las llamadas a la interfaz del controlador, manteniendo la ejecución nativa de los cálculos y las operaciones con la memoria de la GPU.

Modal describe cambios enviados al proyecto principal para admitir nuevos controladores, NVLink, CUDA MPS, los perfiladores Nsight y la monitorización. El beneficio práctico es sencillo: trasladar una tarea a un entorno aislado interfiere menos con el flujo de trabajo habitual del ingeniero. Aun así, hay que comprobar en el entorno propio la compatibilidad con cada GPU, controlador y herramienta.

Para el entrenamiento en varios servidores, la empresa añadió rdmaproxy. Este valida las operaciones de control de RDMA y mantiene una ruta directa a través del hardware para la transferencia de datos. En pruebas de NCCL all-reduce, Modal obtuvo alrededor del 99% del rendimiento de transferencia nativo. Es el resultado de una prueba de rendimiento concreta: no significa que cualquier entrenamiento pierda solo un 1% de velocidad.

Otro resultado ilustrativo se refiere a la transferencia de paquetes de datos mediante memoria compartida: tras modificar el asignador de memoria, la velocidad de una prueba pasó de 2,9 a 22 GB/s. Ese aumento muestra hasta qué punto el rendimiento depende del tipo de carga y de la implementación de cada operación.

Qué conviene comprobar en su entorno

Para un equipo que ejecuta código de usuarios o agentes, gVisor merece una prueba específica. Elija una tarea real: instalar dependencias, recorrer un repositorio grande, ejecutar pruebas o leer un conjunto de datos. Mida el tiempo de arranque, el consumo de memoria, las operaciones con archivos y la compatibilidad con las bibliotecas necesarias. Un arranque rápido del entorno aislado no garantiza por sí solo una respuesta rápida del producto.

Para la inferencia, resultan interesantes las instantáneas de estado: permiten guardar un proceso ya inicializado y restaurarlo en otra máquina. Modal informa de unas 670.000 restauraciones diarias de contenedores a partir de instantáneas. Sin embargo, las instantáneas de programas que utilizan varias GPU siguen en desarrollo; GPUDirect Storage y el arranque de grandes servidores de inferencia en menos de un minuto también se presentan como planes futuros.

La conclusión principal para un fundador o responsable de producto es que ejecutar código generado exige una decisión específica sobre el aislamiento. El paso de gVisor a una gobernanza en manos de sus mantenedores amplía el grupo de empresas responsables del proyecto. La decisión de adoptarlo debería basarse en pruebas propias de seguridad, compatibilidad y coste de ejecución.