Gemma 4 de graça no Kaggle: modelo encolhe de 62 para 18 GB

O Google Gemma 4 31B, que ocupa cerca de 62 GB em float16, rodou no Kaggle gratuito, cujo limite de disco é de 57,6 GB. Para isso, o modelo foi quantizado em NF4 "on the fly" e distribuído entre duas T4 com device_map="auto". Depois do carregamento, o cache do Hugging Face foi apagado e o resultado, enviado direto para o Hub. O arquivo final ficou com 18,3 GB.

Processado por IA de Habr AI; editado por Hamidun News
Gemma 4 de graça no Kaggle: modelo encolhe de 62 para 18 GB
Fonte: Habr AI. Colagem: Hamidun News.
Ouvir artigo

O Google Gemma 4, um modelo grande de 31 bilhões de parâmetros, foi comprimido de 62 GB para 18,3 GB e rodou de graça no Kaggle, mesmo com o limite de disco da plataforma sendo menor que o tamanho original do modelo.

Onde rodar o Google Gemma 4 de graça?

No Kaggle, quantizando o modelo para 18,3 GB. O problema é que o disco do Kaggle é limitado a 57,6 GB, enquanto o modelo original pesa 62 GB. A solução é quantizar on the fly e enviar o resultado para o Hugging Face Hub.

Como comprimir o Google Gemma de 62 para 18,3 GB?

Com quantização em 4 bits, exclusão automática do cache durante a execução e upload direto do resultado para o Hugging Face Hub.

Dá para rodar o modelo de graça no Kaggle?

Sim. O Google Gemma 4 foi comprimido de 62 GB para 18,3 GB e rodou de graça no Kaggle, apesar do limite de 57,6 GB de espaço em disco.

História

Perguntas frequentes sobre a notícia

Onde rodar o Google Gemma 4 de graça?

No Kaggle, quantizando o modelo para 18,3 GB. O problema é que o disco do Kaggle é limitado a 57,6 GB, enquanto o modelo original pesa 62 GB. A solução é quantizar on the fly e enviar o resultado para o Hugging Face Hub.

Como comprimir o Google Gemma de 62 para 18,3 GB?

Com quantização em 4 bits, exclusão automática do cache durante a execução e upload direto do resultado para o Hugging Face Hub.

Dá para rodar o modelo de graça no Kaggle?

Sim. O Google Gemma 4 foi comprimido de 62 GB para 18,3 GB e rodou de graça no Kaggle, apesar do limite de 57,6 GB de espaço em disco.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Private AI Builders Community · Vibe Club

Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews

Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.

Join Vibe Club →Explore Hamidun Academy
O que você acha?
Carregando comentários…