Imagecaster: локальные модели на 16 ГБ научились писать по-русски и примерять образы

Шесть пальцев и кривой русский текст — главные стереотипы о локальной генерации картинок. Автор приложения Imagecaster, бывшего SD Studio, проверил, что осталось от них спустя полгода после первой статьи. Тест шёл на RTX 4070 Ti Super с 16 ГБ видеопамяти.

Какие модели остались

В мае в приложении жили только SD 1.5, SDXL и Pony. Им нужен промпт из набора тегов, и сложные сцены вроде «правая рука на табличке, левой поправляет волосы» они выполняют плохо. Сейчас основу составляют Flux 1, Z-Image Turbo, Moss-Image и Flux 2 Klein. Они понимают обычные предложения, но требуют 12–16 ГБ видеопамяти.

Каждая модель занимает свою нишу. Flux 1 точно следует длинному описанию. Z-Image Turbo даёт фотореализм за 8 шагов вместо 20–50, поэтому подходит для перебора вариантов. Moss-Image описывает сцену не хуже Flux 1 и умеет правку по русской инструкции: «замени брюки на юбку» меняет одежду и сохраняет человека, позу и фон. Klein отвечает за постобработку и ремикс с сохранением лица.

Qwen-Image 2.1 и Krea 2 автор попробовал и убрал. Связка Z-Image, Moss и Klein закрывает те же задачи легче и быстрее.

Тест с русской надписью

Промпт: девушка на рынке с табличкой «Картошка, недорого». Результаты такие:

• Moss: 50 шагов, около 2 минут на кадр, 5 из 10 без ошибок. Ошибки мелкие, вроде «недорогго».
• Z-Image Turbo: около 15 секунд на кадр, 6,5 из 10. Встречались «Картоша» и «Картоцка».
• Flux 1: около минуты на кадр, 0 из 5.

Причина, по версии Claude, в текстовом энкодере, а не в квантовании. Flux 1 читает промпт через T5, обученный в основном на английском. Z-Image и Moss используют энкодеры семейства Qwen, а они многоязычные. Выборки маленькие, 5–10 кадров, так что это ориентир, а не бенчмарк.

ИИ-стилист без облака

Локальная LLM, которая помещается на 16 ГБ рядом с генерацией, для роли стилиста слабовата. Поэтому схема такая: фото описывает локальная vision-модель, текст получает умный агент (Claude Code, Codex) через MCP, а рисует снова приложение. Изображение с компьютера не уходит.

Цена этого решения в том, что агент не видит фото сам. В диалоге это можно поправить: рассказать о вкусах и о том, что vision-модель упустила. В одном эпизоде стилист решил, что на фото жена автора, хотя девушка сгенерирована.

Отдельная проблема — лицо: Klein перерисовывает весь кадр. Поэтому глаза, нос и губы переносятся с исходника по точкам, а сходство проверяется. Если лицо не совпало, генерация повторяется до трёх попыток. В серии из семи вариантов с разными причёсками и цветами волос метрика отличия лица держалась в пределах 0,013–0,036, то есть в зелёной зоне.

Что это значит на практике

Если делаете продукт с локальной генерацией и русским интерфейсом, смотрите на энкодер модели, а не только на её размер. Для надписей на кириллице реально годятся только модели на Qwen-энкодерах, и всё равно придётся генерировать пачку вариантов. Схема «облачный мозг + локальные глаза и руки через MCP» — рабочий способ сохранить приватность там, где маленькая локальная LLM не тянет.

Ограничения честные: тяжёлые модели думают до пары минут, правка диалогом требует ИИ-агента, а видеокарта нужна минимум на 16 ГБ. Установку упрощает imagecaster-server: он сам ставит Forge Neo, Ollama при необходимости и нужные версии Python и git в свою папку.