Live 18/11 · Cohorte 318 nov à 19h00 MSK — atelier pratique gratuit sur les agents IA · La Cohorte 3 démarre le 23/11Atelier 18/11 →Cohorte 3 (23/11)
InfrastructureAnalyse · Sur le radarHabr AI→ original

sd.cpp à la place de Forge Neo : neuf modèles sur un GPU de 16 Go génèrent une image en 5 à 68 secondes

L'auteur a remplacé l'interface Python Forge Neo par sd.cpp, un unique exécutable C++ pour lancer les modèles, et comparé neuf générateurs d'images sur une RTX 4070 Ti SUPER dotée de 16 Go de mémoire vidéo. Z-Image Turbo produit une image 1024×1024 en 5 secondes et écrit les inscriptions en russe. Moss, le meilleur pour représenter des personnes, met 68 secondes. Le bouton « Rapide » accélère les modèles lents de 1,5 à 2,4 fois, mais sur les scènes complexes l'image devient pâteuse. Pour la vitesse, prenez Z-Image Turbo ; pour les personnes et le texte, Moss.

Traité par IA depuis Habr AI ; édité par Hamidun News
sd.cpp à la place de Forge Neo : neuf modèles sur un GPU de 16 Go génèrent une image en 5 à 68 secondes
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Mode rapideMoss 68→28 s, Qwen-Image 30→16 s, Chroma 60→40 s
Chiffre clé #2Flux.1 dev, Chroma1-HD et Anima n'écrivent pas le cyrillique
Chiffre clé #3La version 8 Go calcule généralement aussi vite que la version 16 Go

Si vous avez déjà lancé de la génération d'images sur votre propre carte graphique, vous connaissez le problème : Stable Diffusion Forge Neo et ComfyUI sont d'énormes applications Python qui embarquent des gigaoctets de PyTorch et de paquets. Après chaque mise à jour, quelque chose casse, et les extensions entrent en conflit les unes avec les autres. L'auteur de l'article sur Habr a tourné la page : il a porté son application Imagecaster sur stable-diffusion.

cpp (sd.cpp en abrégé), un unique exécutable C++, sans Python. Il a ensuite fait tourner neuf modèles sur sa RTX 4070 Ti SUPER personnelle, dotée de 16 Go de mémoire vidéo.

Les chiffres du titre correspondent au nombre de secondes par image 1024×1024 : le modèle le plus rapide, Z-Image Turbo, s'en sort en 5 secondes, le plus lent, Moss, en 68. Quant aux mentions « 16 Go » et « 8 Go », elles désignent deux variantes d'un même modèle, avec un degré de compression des poids (quantification) différent : la première est conçue pour une carte de 16 Go de mémoire, la seconde pour une carte de 8 Go. En pratique, la conclusion est simple : pour la vitesse, prenez un modèle ; pour la qualité des personnes et un texte russe exact, un autre.

Et on peut lancer les deux sans se battre avec Python.

Pourquoi sd.cpp plutôt que Forge et ComfyUI

Le serveur de l'application est passé successivement par A1111, Forge, puis Forge Neo, et fonctionne désormais sur sd.cpp. Les modèles sont chargés au format GGUF : un même modèle existe en plusieurs niveaux de compression, ce qui permet de choisir le fichier adapté à la quantité de mémoire vidéo dont on dispose. Il existe des builds pour AMD et Intel (via Vulkan) et pour les Mac Apple Silicon (via Metal), et le serveur choisit lui-même le bon. L'auteur n'a toutefois testé que sur NVIDIA.

Il a aussi abandonné Ollama : le serveur fonctionne désormais directement avec llama.cpp, et l'auteur a intégré lui-même au serveur le téléchargement et le déchargement des modèles. Cette approche a ses inconvénients : les nouveaux modèles arrivent dans sd.cpp plus tard que dans ComfyUI, et sd.cpp ne comprend pas toujours les fichiers fp8 de ComfyUI. Pour HiDream, il a donc fallu prendre la version complète.

Le test s'est déroulé ainsi : cinq prompts complexes (un horloger avec un mot « Je reviens à 13:60 », des musiciens sur un toit de Saint-Pétersbourg, une ville à l'intérieur d'un chêne, un anime « Je suis en retard ! », une datcha de 1998), avec quatre seeds pour chaque version de modèle. Le temps mesuré est celui de la génération seule, sans chargement du modèle, en moyenne sur 20 images.

Neuf modèles : vitesse et inscriptions en russe

Z-Image Turbo : 5 secondes en 8 étapes, photoréalisme, texte russe sans erreur. La version 8 Go (3,9 Go) calcule aussi vite que la version 16 Go (6,6 Go).

Flux.3 Klein : 8 secondes, prompt en texte courant, écrit correctement en russe. La version 8 Go pèse 3,5 Go et ne perd rien en vitesse.

Krea-2 Turbo : des photos esthétiques en 8 étapes et 11 secondes ; les inscriptions en russe sont elles aussi correctes.

Anima : un modèle pour l'anime et l'illustration, qui comprend aussi bien les tags danbooru que les phrases ordinaires. 19 secondes par image ; une seule version de 4,2 Go convient à la fois pour 8 et pour 16 Go. Les photos et les inscriptions ne sont pas son domaine.

Flux.1 dev : le classique, qui suit bien la description, mais dessine des gribouillis ressemblant à des lettres au lieu du cyrillique. 25 secondes sur 16 Go.

Qwen-Image 2.1 : suit précisément le prompt et écrit un texte lisible, y compris en russe. C'est la seule des neuf à fonctionner avec un CFG de 6, et elle prend donc en compte le prompt négatif (la liste de ce qui ne doit pas figurer sur l'image). 30 secondes, 16 en mode rapide.

HiDream-O1 dev : tout sort dans un style de dessin, c'est pourquoi l'auteur l'illustre avec de l'anime. Les grandes inscriptions passent, les petites tournent au gribouillis. La version de travail bf16 pèse 16,4 Go et ne tient pas entièrement dans 16 Go de mémoire vidéo : une partie des poids reste en mémoire vive, et il faut 30 secondes par image. La version fp8 a mal fonctionné dans sd.cpp : elle ignorait le prompt et ajoutait des artefacts.

Chroma1-HD : un modèle ouvert de 8,9 milliards de paramètres basé sur FLUX.1 schnell. On l'apprécie pour sa licence Apache 2.0 (celle de Flux.1 dev est non commerciale), l'absence de filtre de sécurité et un vrai CFG avec prompt négatif. Son point fort : un rendu argentique et cinématographique. Ses défauts : 60 secondes par image et des gribouillis à la place des lettres russes.

Moss (OpenMOSS, 5 milliards de paramètres) : le favori de l'auteur. Il dessine mieux que tous les autres les personnes, suit précisément la description et écrit correctement en russe. Le prix à payer, c'est le temps : 50 étapes et 68 secondes par image.

Le mode rapide et ses défauts

Le bouton « Rapide » active un cache des étapes : le moteur réutilise les calculs des étapes voisines au lieu de recalculer chacune de zéro. Le mode est disponible pour quatre modèles lents : Moss et Chroma (dbcache), Qwen-Image et Flux.1 (easycache). Le gain va de 1,5 fois pour Chroma à 2,4 fois pour Moss : par exemple, Moss passe de 68 à 28 secondes, Qwen-Image de 30 à 16. Avec Moss et Qwen-Image, à seed identique, la scène ne change presque pas, seuls les détails varient, alors que Chroma recompose nettement le cadre.

Cette accélération n'est pas gratuite. Sur une image simple en petite résolution, on voit à peine la différence. Sur une scène complexe et en grande résolution, l'image ressemble à un JPEG surcompressé, et les zones complexes se transforment en « bouillie ». Il ne faut donc pas activer le mode partout : seul le résultat permet de dire s'il convient ou non.

Second constat : la quantification économise de la mémoire vidéo, pas du temps. Pour la plupart des modèles, la version 8 Go calcule aussi vite que la version 16 Go. L'auteur a mesuré les deux sur une carte de 16 Go, mais ne voit aucune raison pour qu'elles ne fonctionnent pas sur 8 Go. Si la mémoire ne suffit pas, le serveur déplace une partie du modèle en mémoire vive, et c'est plus lent.

Que choisir

Pour la vitesse et le texte russe : Z-Image Turbo ou Flux.3 Klein. Pour de belles photos : Krea-2 Turbo. Pour la précision et les inscriptions en un temps raisonnable : Qwen-Image. Pour les personnes et la qualité maximale : Moss. Pour l'anime : Anima. Ces appréciations sont subjectives : l'auteur dit lui-même que Flux.1 et Chroma ne lui plaisent tout simplement pas. Mais aucun des deux n'écrit le cyrillique, ce qu'il faut garder en tête si vous développez un produit pour des utilisateurs russophones.

Dossier

Questions clés sur cet article

Pourquoi sd.cpp plutôt que Forge et ComfyUI?

Le serveur de l'application est passé successivement par A1111, Forge, puis Forge Neo, et fonctionne désormais sur sd.cpp. Les modèles sont chargés au format GGUF : un même modèle existe en plusieurs niveaux de compression, ce qui permet de choisir le fichier adapté à la quantité de mémoire vidéo dont on dispose. Il existe des builds pour AMD et Intel (via Vulkan) et pour les Mac Apple Silicon (via Metal), et le serveur choisit lui-même le bon. L'auteur n'a toutefois testé que sur NVIDIA.

Que sait-on sur Neuf modèles : vitesse et inscriptions en russe ?

Z-Image Turbo : 5 secondes en 8 étapes, photoréalisme, texte russe sans erreur. La version 8 Go (3,9 Go) calcule aussi vite que la version 16 Go (6,6 Go). Flux.3 Klein : 8 secondes, prompt en texte courant, écrit correctement en russe. La version 8 Go pèse 3,5 Go et ne perd rien en vitesse. Krea-2 Turbo : des photos esthétiques en 8 étapes et 11 secondes ; les inscriptions en russe sont elles aussi correctes.

Que sait-on sur Le mode rapide et ses défauts ?

Le bouton « Rapide » active un cache des étapes : le moteur réutilise les calculs des étapes voisines au lieu de recalculer chacune de zéro. Le mode est disponible pour quatre modèles lents : Moss et Chroma (dbcache), Qwen-Image et Flux.1 (easycache). Le gain va de 1,5 fois pour Chroma à 2,4 fois pour Moss : par exemple, Moss passe de 68 à 28 secondes, Qwen-Image de 30 à 16.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…