Gemma 4 gratuitement sur Kaggle : le modèle passe de 62 à 18 Go

En float16, Google Gemma 4 31B occupe environ 62 Go. Le modèle a pourtant tourné sur la version gratuite de Kaggle, dont le disque est limité à 57,6 Go. Pour y parvenir, le modèle a été quantifié en NF4 « à la volée » et réparti sur deux T4 via device_map="auto". Une fois le chargement terminé, le cache Hugging Face a été supprimé et le résultat envoyé directement sur le Hub. Au final, le modèle pèse 18,3 Go.

Traité par IA depuis Habr AI ; édité par Hamidun News
Gemma 4 gratuitement sur Kaggle : le modèle passe de 62 à 18 Go
Source : Habr AI. Collage: Hamidun News.
Écouter l'article

Google Gemma 4, un grand modèle de 31 milliards de paramètres, a été compressé de 62 Go à 18,3 Go et exécuté gratuitement sur Kaggle. La limite de disque de la plateforme est pourtant inférieure au poids d'origine du modèle.

Où exécuter Google Gemma 4 gratuitement ?

Sur Kaggle, en quantifiant le modèle jusqu'à 18,3 Go. La difficulté : le disque de Kaggle est limité à 57,6 Go, alors que le modèle d'origine pèse 62 Go. La solution passe par une quantification à la volée et un export vers le Hugging Face Hub.

Comment compresser Google Gemma de 62 à 18,3 Go ?

En combinant trois techniques : une quantification sur 4 bits, la suppression automatique du cache pendant l'exécution et l'envoi direct du résultat sur le Hugging Face Hub.

Peut-on exécuter un modèle d'IA gratuitement sur Kaggle ?

Oui. Google Gemma 4 a été compressé de 62 Go à 18,3 Go et exécuté gratuitement sur Kaggle, malgré un espace disque limité à 57,6 Go.

Dossier

Questions clés sur cet article

Où exécuter Google Gemma 4 gratuitement ?

Sur Kaggle, en quantifiant le modèle jusqu'à 18,3 Go. La difficulté : le disque de Kaggle est limité à 57,6 Go, alors que le modèle d'origine pèse 62 Go. La solution passe par une quantification à la volée et un export vers le Hugging Face Hub.

Comment compresser Google Gemma de 62 à 18,3 Go ?

En combinant trois techniques : une quantification sur 4 bits, la suppression automatique du cache pendant l'exécution et l'envoi direct du résultat sur le Hugging Face Hub.

Peut-on exécuter un modèle d'IA gratuitement sur Kaggle ?

Oui. Google Gemma 4 a été compressé de 62 Go à 18,3 Go et exécuté gratuitement sur Kaggle, malgré un espace disque limité à 57,6 Go.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Private AI Builders Community · Vibe Club

Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews

Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.

Join Vibe Club →Explore Hamidun Academy
Qu'en pensez-vous ?
Chargement des commentaires…