Gemma 4 gratis en Kaggle: de 62 a 18 GB

Google Gemma 4 31B, que en float16 ocupa unos 62 GB, se ha logrado ejecutar en la versión gratuita de Kaggle, cuyo límite de disco es de 57,6 GB. Para conseguirlo, el modelo se cuantizó a NF4 «sobre la marcha» y se repartió entre dos T4 mediante device_map="auto". Tras la carga, se eliminó la caché de Hugging Face y el resultado se subió de inmediato al Hub. El tamaño final: 18,3 GB.

Procesado por IA desde Habr AI; editado por Hamidun News
Gemma 4 gratis en Kaggle: de 62 a 18 GB
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo

Google Gemma 4, un gran modelo de 31.000 millones de parámetros, se ha conseguido reducir de 62 GB a 18,3 GB y ejecutar gratis en Kaggle, aunque el límite de disco de la plataforma es inferior al peso original del modelo.

¿Dónde ejecutar Google Gemma 4 gratis?

En la plataforma Kaggle, cuantizando el modelo hasta 18,3 GB. El problema es que el disco de Kaggle está limitado a 57,6 GB, mientras que el modelo original pesa 62 GB. La solución pasa por cuantizar sobre la marcha y subir el resultado a Hugging Face Hub.

¿Cómo comprimir Google Gemma de 62 a 18,3 GB?

Mediante cuantización a 4 bits, el borrado automático de la caché durante la ejecución y la subida directa del resultado a Hugging Face Hub.

¿Se puede ejecutar el modelo gratis en Kaggle?

Sí. Google Gemma 4 se logró reducir de 62 GB a 18,3 GB y ejecutar gratis en Kaggle, pese al límite de espacio en disco de 57,6 GB.

Historia

Preguntas frecuentes sobre la noticia

¿Dónde ejecutar Google Gemma 4 gratis?

En la plataforma Kaggle, cuantizando el modelo hasta 18,3 GB. El problema es que el disco de Kaggle está limitado a 57,6 GB, mientras que el modelo original pesa 62 GB. La solución pasa por cuantizar sobre la marcha y subir el resultado a Hugging Face Hub.

¿Cómo comprimir Google Gemma de 62 a 18,3 GB?

Mediante cuantización a 4 bits, el borrado automático de la caché durante la ejecución y la subida directa del resultado a Hugging Face Hub.

¿Se puede ejecutar el modelo gratis en Kaggle?

Sí. Google Gemma 4 se logró reducir de 62 GB a 18,3 GB y ejecutar gratis en Kaggle, pese al límite de espacio en disco de 57,6 GB.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Private AI Builders Community · Vibe Club

Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews

Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.

Join Vibe Club →Explore Hamidun Academy
¿Qué te parece?
Cargando comentarios…