Нейросеть Gemma 4 бесплатно на Kaggle: сжали с 62 до 18 ГБ

Google Gemma 4 — большую нейросеть на 31 млрд параметров удалось ужать с 62 ГБ до 18,3 ГБ и запустить бесплатно на Kaggle, хотя лимит диска там меньше исходного веса модели.

Где запустить Google Gemma 4 бесплатно?

На платформе Kaggle через квантование модели до 18,3 ГБ. Проблема в том, что диск Kaggle ограничен 57,6 ГБ, а оригинальная модель весит 62 ГБ — это решается квантованием на лету и выгрузкой в Hugging Face Hub.

Как сжать Google Gemma с 62 до 18,3 ГБ?

Через квантование в 4 бита, автоматическое удаление кэша во время выполнения и прямую выгрузку результата в Hugging Face Hub.

Можно ли запустить нейросеть бесплатно на Kaggle?

Да, Google Gemma 4 удалось ужать с 62 ГБ до 18,3 ГБ и запустить бесплатно на Kaggle, несмотря на ограничение дискового пространства в 57,6 ГБ.