Сообщество собрало $10 000 и дообучило видеомодель Sulphur 3 за три месяца

Сообщество r/StableDiffusion провело редкий эксперимент: пользователи сами собрали $10 000, арендовали вычислительные мощности и дообучили большую видеомодель под задачу, которую коммерческие разработчики обычно ограничивают. Через три месяца проект Sulphur 3 дошёл до релиза на Hugging Face.

Для инженеров здесь интереснее не тематика сгенерированных роликов, а устройство всей затеи. Небольшая независимая команда взяла MiniMax H3, подготовила специализированный набор данных и попыталась изменить поведение уже оптимизированной модели. Получился наглядный пример того, сколько трения возникает между обещанием «возьмём открытые веса и доучим» и реальной работой.

Почему готовую модель оказалось трудно переучивать

MiniMax H3 распространяется в CFG-дистиллированном варианте. Если говорить проще, модель уже подготовили к быстрой генерации и научили работать без части вычислений, которые обычно нужны для управления соответствием запросу. Это удобно при запуске, но создаёт проблемы при полном дообучении: изменение весов может нарушить хрупкий баланс, достигнутый разработчиками исходной модели.

Представьте серийный автомобиль с тщательно настроенной электроникой. Заменить колёса несложно — примерно так работают небольшие LoRA-адаптеры. Но если перебрать двигатель и трансмиссию, прежние настройки уже не гарантируют прежнего поведения. Машина может лучше ехать по бездорожью, но потерять устойчивость на трассе. С видеомоделью происходит похожее: улучшение анатомии, движения или взаимодействия персонажей способно ухудшить другие сценарии генерации.

Участники проекта заранее предупреждали, что полное дообучение может нарушить совместимость с существующими LoRA, изменить оптимальные параметры запуска и ослабить отдельные способности MiniMax H3. Во время работы появились и прямые жалобы на то, что H3 обучается хуже ожидаемого. Поэтому задержка почти до трёх месяцев выглядит не просто организационным сбоем, а следствием технического риска, который команда недооценила на старте.

Что именно выпустило сообщество

На Hugging Face опубликованы несколько вариантов Sulphur 3. Полный Base-чекпойнт занимает 40,2 ГБ, INT8 — 20,9 ГБ, а W4A8 — 11,4 ГБ. Отдельный модуль коррекции весит 7,99 ГБ. Также заявлены варианты Ref2VA для работы с референсами и компоненты для ComfyUI.

Такой набор важен практически. Разработчик может начать с W4A8 на сравнительно доступном оборудовании, проверить скорость и качество, а затем сравнить результат с INT8 или полной версией. Но размер файла ещё не говорит, сколько памяти понадобится всему конвейеру: при запуске нужно учитывать текстовые кодировщики, декодер, длину ролика, разрешение и промежуточные тензоры.

Проект обучали на видеодатасете, который планировался почти вдвое крупнее набора Sulphur 2 из примерно 125 тысяч роликов. По описанию участников, 60% материалов составляли реалистичные записи, по 20% — трёхмерная и рисованная анимация. Эти цифры пока стоит считать заявлениями команды: открытого аудита состава, лицензий и качества разметки в исходном сообщении нет.

Что брать в работу

Sulphur 3 полезна как кейс общественного финансирования вычислений. Сообщество быстро собрало значительную сумму, пережило задержку и получило несколько чекпойнтов вместо закрытого сервиса. Это рабочая схема для ниш, которые крупные лаборатории не хотят обслуживать.

Однако скачивать модель в продакшен только из-за громкого релиза рано. Репозиторий имеет статус gated: нужно авторизоваться и принять условия, а выдача доступа может занимать время. Независимых сравнений качества пока недостаточно. Неясны также происхождение всех обучающих данных, юридические ограничения и степень деградации базовых возможностей H3.

Практический вывод простой: воспринимайте Sulphur 3 как экспериментальный чекпойнт. Сначала зафиксируйте набор собственных тестовых запросов, сравните его с исходной H3 по качеству движения, стабильности персонажей и скорости, затем отдельно проверьте совместимость с нужными LoRA и узлами ComfyUI. История проекта хорошо показывает: деньги на видеокарты собрать можно быстро, но предсказуемое дообучение большой дистиллированной модели остаётся сложной инженерной задачей.