Ao vivo 18/11 · Turma 318 nov às 19:00 MSK — aula prática gratuita de agentes de IA · Turma 3 ao vivo começa 23/11Aula 18/11 →Turma 3 (23/11)
LançamentoAnálise · No radarHabr AI→ original

sd.cpp no lugar do Forge Neo: nove modelos em uma placa de vídeo de 16 GB geram imagens em 5–68 segundos

O autor trocou a interface em Python do Forge Neo pelo sd.cpp, um único arquivo em C++ para rodar modelos, e comparou nove geradores de imagem numa RTX 4070 Ti SUPER com 16 GB de VRAM. O Z-Image Turbo gera um quadro de 1024×1024 em 5 segundos e escreve textos em russo. O Moss, o melhor em pessoas, leva 68 segundos. O botão «Rápido» acelera os modelos lentos em 1,5–2,4 vezes, mas em cenas complexas a imagem fica borrada. Para velocidade, use o Z-Image Turbo; para pessoas e texto, o Moss.

Processado por IA de Habr AI; editado por Hamidun News
sd.cpp no lugar do Forge Neo: nove modelos em uma placa de vídeo de 16 GB geram imagens em 5–68 segundos
Fonte: Habr AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalHabr AI ↗
Editor-chefe
Modo rápidoMoss 68→28 s, Qwen-Image 30→16 s, Chroma 60→40 s
Dado-chave #2Flux.1 dev, Chroma1-HD e Anima não escrevem cirílico
Dado-chave #3A versão de 8 GB costuma levar o mesmo tempo que a de 16 GB

Se você já rodou geração de imagens na sua própria placa de vídeo, conhece o problema: o Stable Diffusion Forge Neo e o ComfyUI são aplicativos enormes em Python, com gigabytes de PyTorch e pacotes. A cada atualização algo quebra, e as extensões entram em conflito entre si. O autor do artigo no Habr se livrou disso: ele migrou seu aplicativo Imagecaster para o stable-diffusion.

cpp (abreviado como sd.cpp), um único executável em C++, sem Python. Depois, testou nove modelos numa RTX 4070 Ti SUPER doméstica, com 16 GB de VRAM.

Os números do título são segundos por imagem de 1024×1024: a mais rápida, a Z-Image Turbo, termina em 5 segundos; a mais lenta, a Moss, em 68. Já «16 GB» e «8 GB» são duas variantes da mesma modelo com graus diferentes de compressão dos pesos (quantização): a primeira foi pensada para uma placa com 16 GB de memória, a segunda para uma com 8 GB. Na prática, a conclusão é simples: se você precisa de velocidade, escolha um modelo; se precisa de qualidade em pessoas e texto preciso em russo, escolha outro.

Os dois rodam sem a dor de cabeça do Python.

Por que sd.cpp, e não Forge e ComfyUI

O servidor do aplicativo passou pelo A1111, depois pelo Forge, depois pelo Forge Neo e agora roda no sd.cpp. Os modelos são carregados no formato GGUF: cada modelo tem vários níveis de compressão, então dá para escolher o arquivo conforme a quantidade de VRAM. Existem builds para AMD e Intel (via Vulkan) e para Macs com Apple Silicon (via Metal), e o servidor escolhe a adequada sozinho. Mas o autor testou apenas em NVIDIA.

De quebra, ele abandonou o Ollama: o servidor agora trabalha diretamente com o llama.cpp, e o download e o descarregamento de modelos foram implementados pelo autor no próprio servidor. A abordagem tem desvantagens: modelos novos chegam ao sd.cpp mais tarde do que ao ComfyUI, e os arquivos fp8 do ComfyUI nem sempre são reconhecidos. Por isso, com o HiDream foi preciso usar a versão completa.

O teste funcionou assim: cinco prompts difíceis (um relojoeiro com o bilhete «Volto às 13:60», músicos num telhado de São Petersburgo, uma cidade dentro de um carvalho, um anime com «Estou atrasada!», uma dacha de 1998), com quatro seeds para cada versão de modelo. O tempo medido é só o da geração em si, sem o carregamento do modelo, em média de 20 imagens.

Nove modelos: velocidade e textos em russo

Z-Image Turbo — 5 segundos em 8 passos, fotorrealismo, texto em russo sem erros. A versão de 8 GB (3,9 GB) é tão rápida quanto a de 16 GB (6,6 GB).

Flux.3 Klein — 8 segundos, prompt em texto corrido, escreve corretamente em russo. A versão de 8 GB pesa 3,5 GB e não perde em velocidade.

Krea-2 Turbo — fotos esteticamente agradáveis em 8 passos e 11 segundos; os textos em russo também saem corretos.

Anima — modelo para anime e ilustrações, entende tanto tags do danbooru quanto frases comuns. Leva 19 segundos por imagem, e uma única versão de 4,2 GB serve tanto para 8 quanto para 16 GB. Fotos e textos não são a especialidade dela.

Flux.1 dev — um clássico, segue bem a descrição, mas desenha rabiscos parecidos com letras no lugar do cirílico. 25 segundos em 16 GB.

Qwen-Image 2.1 — segue o prompt com precisão e escreve texto legível, inclusive em russo. É a única das nove que trabalha com CFG 6, por isso leva em conta o prompt negativo (a lista do que não deve aparecer na imagem). 30 segundos, ou 16 no modo rápido.

HiDream-O1 dev — tudo sai em estilo de desenho, e por isso o autor a usa para mostrar anime. Textos grandes saem bem; os pequenos viram rabiscos. A versão funcional bf16 pesa 16,4 GB e não cabe inteira nos 16 GB de VRAM: parte dos pesos fica na RAM, e cada imagem leva 30 segundos. A versão fp8 funcionou mal no sd.cpp: ignorava o prompt e adicionava artefatos.

Chroma1-HD — modelo aberto de 8,9 bilhões de parâmetros baseado no FLUX.1 schnell. É valorizada pela licença Apache 2.0 (a do Flux.1 dev não é comercial), pela ausência de filtro de segurança e por um CFG de verdade com prompt negativo. O ponto forte é a imagem cinematográfica, com aspecto de filme analógico. Os pontos fracos: 60 segundos por imagem e rabiscos no lugar das letras russas.

Moss (OpenMOSS, 5 bilhões de parâmetros) — a favorita do autor: desenha pessoas melhor que todas as outras, segue a descrição com precisão e escreve corretamente em russo. O preço é o tempo: 50 passos e 68 segundos por imagem.

O modo rápido e o que há de errado com ele

O botão «Rápido» ativa o cache de passos: o motor reaproveita os cálculos de passos vizinhos em vez de calcular cada um do zero. O modo está disponível para quatro modelos lentos: Moss e Chroma (dbcache), Qwen-Image e Flux.1 (easycache). A aceleração vai de 1,5 vez no Chroma a 2,4 vezes no Moss: por exemplo, o Moss cai de 68 para 28 segundos, e o Qwen-Image, de 30 para 16. No Moss e no Qwen-Image, com o mesmo seed, a cena quase não muda, só os detalhes; já o Chroma reorganiza o quadro de forma visível.

Aceleração de graça não existe. Numa imagem simples e de resolução pequena, quase não se nota diferença. Numa cena complexa e em resolução alta, a imagem lembra um JPEG muito comprimido, e as áreas complicadas viram uma «papa». Por isso, não vale ligar o modo em todo lugar: só o resultado mostra se ele serve ou não.

Segunda observação: a quantização economiza VRAM, não tempo. Na maioria dos modelos, a versão de 8 GB leva o mesmo tempo que a de 16 GB. O autor mediu as duas numa placa de 16 GB, mas não vê motivo para que não funcionem numa de 8 GB. Se a memória não bastar, o servidor move parte do modelo para a RAM, e o processo fica mais lento.

O que escolher

Precisa de velocidade e texto em russo: Z-Image Turbo ou Flux.3 Klein. Fotos bonitas: Krea-2 Turbo. Precisão e textos em tempo moderado: Qwen-Image. Pessoas e qualidade máxima: Moss. Anime: Anima. As avaliações são subjetivas: o autor diz abertamente que simplesmente não gosta do Flux.1 e do Chroma. Mas nenhum dos dois escreve cirílico, e isso vale considerar se você está desenvolvendo um produto para usuários de língua russa.

História

Perguntas frequentes sobre a notícia

Por que sd.cpp, e não Forge e ComfyUI?

O servidor do aplicativo passou pelo A1111, depois pelo Forge, depois pelo Forge Neo e agora roda no sd.cpp. Os modelos são carregados no formato GGUF: cada modelo tem vários níveis de compressão, então dá para escolher o arquivo conforme a quantidade de VRAM. Existem builds para AMD e Intel (via Vulkan) e para Macs com Apple Silicon (via Metal), e o servidor escolhe a adequada sozinho. Mas o autor testou apenas em NVIDIA.

O que se sabe sobre Nove modelos: velocidade e textos em russo?

Z-Image Turbo — 5 segundos em 8 passos, fotorrealismo, texto em russo sem erros. A versão de 8 GB (3,9 GB) é tão rápida quanto a de 16 GB (6,6 GB). Flux.3 Klein — 8 segundos, prompt em texto corrido, escreve corretamente em russo. A versão de 8 GB pesa 3,5 GB e não perde em velocidade. Krea-2 Turbo — fotos esteticamente agradáveis em 8 passos e 11 segundos; os textos em russo também saem corretos. Anima — modelo para anime e ilustrações, entende tanto tags do danbooru quanto frases comuns.

O que se sabe sobre O modo rápido e o que há de errado com ele?

O botão «Rápido» ativa o cache de passos: o motor reaproveita os cálculos de passos vizinhos em vez de calcular cada um do zero. O modo está disponível para quatro modelos lentos: Moss e Chroma (dbcache), Qwen-Image e Flux.1 (easycache). A aceleração vai de 1,5 vez no Chroma a 2,4 vezes no Moss: por exemplo, o Moss cai de 68 para 28 segundos, e o Qwen-Image, de 30 para 16. No Moss e no Qwen-Image, com o mesmo seed, a cena quase não muda, só os detalhes; já o Chroma reorganiza o quadro de forma visível.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…