- BrainTools - https://www.braintools.ru -

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 1

Мне нравится экспериментировать с локальными моделями, и не только для генерации картинок. Эта статья — что-то вроде чекпойнта для себя: что попробовал, что намерил, что заменил и почему. Может, кому-то тоже будет интересно или найдётся что-то полезное.

В прошлой статье я показал, как локальные модели работают с русским текстом и что умеют Moss и Klein. Всё это можно использовать напрямую в Stable Diffusion Forge Neo или в ComfyUI. Своё приложение я написал, чтобы упростить работу с Forge Neo, и выложил на GitHub. Никого не заставляю им пользоваться: реклама — последнее, что мне нужно в бесплатном инструменте, созданном в первую очередь для себя.

В статье — сравнение девяти моделей для генерации картинок на одной домашней видеокарте RTX 4070 Ti SUPER 16 ГБ: одинаковые промпты, версии на 8 и 16 ГБ видеопамяти, обычный и быстрый режим. И да, снова много картинок.

Почему sd.cpp

Как менялись серверные движки в приложении: A1111, потом Forge, потом Forge Neo. К StabelDiffusion у меня одна претензия — это огромное Python-приложение (многими любимый ComfyUI тоже): гигабайты PyTorch и пакетов, обновления, после которых что-то ломается, дополнения, конфликтующие друг с другом. Поэтому теперь — stable-diffusion.cpp: один бинарник на C++. Ещё мне нравится формат GGUF: у одной модели много уровней сжатия, можно подобрать файл под свою видеокарту. Заодно отказался от Ollama: сервер теперь работает прямо с llama.cpp, вокруг которого Ollama и создавалась. Удобства Ollama — скачивание и выгрузку моделей — сделал в самом сервере.

Итог: у большинства моделей есть версия на 8 ГБ видеопамяти. Проверял на карте с 16 ГБ, но причин не работать на 8 ГБ не вижу. Если не хватит, сервер переложит часть модели в оперативную память [1] — будет медленнее, но картинка получится.

Быстрый режим

sd.cpp умеет кэш шагов (StableDiffussion, вероятно тоже): движок переиспользует вычисления соседних шагов, вместо того чтобы считать каждый заново. В приложении он включается кнопкой «Быстро» рядом с «Сгенерировать», для четырёх медленных моделей: Moss и Chroma (dbcache), Qwen-Image и Flux.1 (easycache). Ускорение — от 1,5 раза у Chroma до 2,4 раза у Moss. У Moss и Qwen-Image при том же seed сцена почти не меняется, отличаются детали. Chroma в быстром режиме заметно перестраивает кадр. В сетках ниже быстрый режим — нижний ряд.

Бесплатным ускорение не бывает. На простой картинке в небольшом разрешении разницу почти не видно. На сложной сцене и в большем разрешении картинка начинает выглядеть как пережатый JPEG или первращает сложные места в “кашу”. Поэтому включать его везде не стоит: подходит он или нет, видно только по результату.

Как мерил

  • RTX 4070 Ti SUPER 16 ГБ, движок sd.cpp, приложение Imagecaster. Размер 1024×1024.

  • Пять промптов, по четыре seed на каждую версию; показан один seed, выбранный вручную, — у всех версий одной модели одинаковый.

  • Время — только генерация, без загрузки модели; среднее по 20 картинкам.

  • «8 ГБ» и «16 ГБ» — разное квантование (сжатие весов) одной модели под видеокарту такого объёма. Обе мерили на карте 16 ГБ.

Промпты

В приложении русский запрос переводит LLM, и её перевод может немного отличаться от этого текста.

Часовщик. Кинематографичное фото, вечер. Пожилой часовщик с лупой в глазу чинит карманные часы за заваленным верстаком: крошечные шестерёнки, пружинки, пинцеты. За его спиной в открытом корпусе напольных часов спит толстый рыжий кот, его хвост качается, как маятник. Десятки часов на стене показывают разное время. На окне приклеена записка от руки: «Ушёл на обед. Вернусь в 13:60». За окном в каплях дождя — мокрая улица с синей неоновой вывеской «РЕМОНТ ЧАСОВ», в стекле отражается настольная лампа. Тёплый свет лампы против холодного синего света улицы, плёночное зерно, 35 мм.

Музыканты на крыше. Золотой час на крыше старого петербургского дома. Три уличных музыканта: слева молодая женщина играет на виолончели, в центре седобородый старик играет на аккордеоне, справа мальчик так сильно дует в трубу, что бельё на верёвке рядом с ним улетает. Чайка ворует бутерброд старика из открытого футляра аккордеона, полного монет. К футляру прислонена картонка с надписью «На новый смычок». У каждого музыканта своя одежда и своё выражение лица, позади дымка над городом, тёплый свет, фотореализм.

Город в дереве. Иллюстрация к детской книге: подробный разрез огромного дуплистого дуба, внутри которого целый город. На каждом ярусе свои жители: ежиная пекарня с дымящимся хлебом, совиная библиотека, где дятел громко долбит прямо под табличкой «ТИХО!», верёвочный лифт, которым управляет улитка, с вывеской «ЭКСПРЕСС», белки на почте, мышиная семья ужинает среди корней. Деревянные вывески, тёплая акварель и тушь, много мелких деталей, мягкий свет.

Аниме: опаздываю!. Аниме-иллюстрация в стиле телевизионного аниме 1990-х, cel shading, чистый контур. Сонная школьница с растрёпанными розовыми волосами и криво надетой формой опаздывает в школу с тостом во рту и несёт под мышкой очень недовольного чёрного кота с сердитой мордой. Вокруг летят лепестки сакуры, позади закрывается железнодорожный переезд, на брелоке на рюкзаке написано «ОПОЗДАЮ!». Динамичная поза бега, выразительные большие глаза, линии движения, яркие краски весеннего утра.

Дача, 1998. Любительский снимок на 35-мм плёнку 1998 года, дешёвая мыльница с резкой встроенной вспышкой. На даче бабушка в цветастом фартуке гордо держит гигантский кабачок размером с младенца, за ней внук-подросток картинно падает в обморок в куст смородины, лохматая собака ворует огурец со стола. На заборе деревянная табличка, написанная от руки: «ОСТОРОЖНО, ЗЛАЯ БАБУШКА». Пересвет от вспышки, красные глаза, чуть заваленный кадр, оранжевая дата ’98 7 14′ в углу, плёночное зерно, обычные негламурные люди.

Негативный промпт (действует только при CFG больше 1): low quality, blurry, deformed hands, extra fingers, watermark

Скорость и надписи

Время в секундах на картинку. Модели — от быстрой к медленной.

Модель

16 ГБ

8 ГБ

16 ГБ, быстрый

8 ГБ, быстрый

Шаги

Русские надписи

Z-Image Turbo

5

5

—

—

8

да

Flux.3 Klein

8

8

—

—

16

да

Krea-2 Turbo

11

11

—

—

8

да

Anima

19

19

—

—

30

нет

Flux.1 dev

25

23

15

13

24

нет

Qwen-Image 2.1

30

30

16

16

20

да

HiDream-O1 dev

30

—

—

—

20

только крупные

Chroma1-HD

60

62

40

40

26

нет

Moss

68

55

28

23

50

да

Квантование экономит видеопамять, а не время: у большинства моделей версия 8 ГБ считает столько же, сколько 16 ГБ. Время сокращает быстрый режим.

Все модели на одном промпте

Часовщик

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 2

Музыканты на крыше

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 3

Город в дереве

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 4

Аниме: опаздываю!

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 5

Дача, 1998

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 6

Модели по отдельности

У моделей с четырьмя версиями сетка: сверху обычный режим (16 и 8 ГБ), снизу быстрый.

Z-Image Turbo

Самая быстрая: 5 секунд на картинку при 8 шагах. Фотореализм, русские надписи пишет правильно. Версия 8 ГБ считает так же быстро, как 16 ГБ.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 7
Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q8_0

z-image-turbo-fp8-aio.gguf

6,6

8GB Q4_K

z_image_turbo-Q4_K.gguf

3,9

8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3-4B-Q8_0.gguf, ae.safetensors.

Flux.3 Klein

8 секунд на картинку, промпт обычным текстом, русские надписи правильно. Версия 8 ГБ весит 3,5 ГБ и по скорости не уступает.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 8
Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q8_0

flux3-image-klein-Q8_0.gguf

6,2

8GB Q4_K

flux3-image-klein-Q4_K.gguf

3,5

16 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B-Instruct-Q4_K_M.gguf, flux2-klein-vae.safetensors.

Krea-2 Turbo

Эстетичные фото за 8 шагов, 11 секунд. Русские надписи правильно.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 9
Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q6_K

Krea-2-Turbo-Q6_K.gguf

10,5

8GB Q3_K_M

Krea-2-Turbo-Q3_K_M.gguf

5,5

8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B-Instruct-Q4_K_M.gguf, wan_2.1_vae.safetensors.

Anima

Модель для аниме и иллюстраций: понимает и теги danbooru, и обычные фразы. Фото и надписи — не её задача, поэтому здесь только аниме. Одна версия на 4,2 ГБ подходит и для 8, и для 16 ГБ.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 10
Файлы и параметры

Версия

Файл

Размер, ГБ

8 и 16GB (одна версия)

anima-aesthetic-v1.1.safetensors

4,2

30 шагов, CFG 5, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).

Flux.1 dev

Классика: хорошо следует описанию, но кириллицу не пишет — вместо надписей получаются похожие на буквы каракули.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 11
Файлы и параметры

Версия

Файл

Размер, ГБ

8GB Q4_K_S

flux1-dev-Q4_K_S.gguf

6,8

16GB Q8_0

flux1-dev-Q8_0.gguf

12,7

24 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, clip_l.safetensors, ae.safetensors.

Qwen-Image 2.1

Точно следует промпту и пишет читаемый текст, в том числе по-русски. Единственная здесь с CFG 6, поэтому учитывает негативный промпт. 30 секунд, в быстром режиме 16.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 12
Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q8_0

qwen_image_2.1-Q8_0.gguf

7,7

8GB Q4_K

qwen_image_2.1-Q4_K.gguf

4,2

20 шагов, CFG 6, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-8B-Instruct-Q4_K_M.gguf, qwen_image_2.1_vae_bf16.safetensors.

HiDream-O1 dev

У неё всё выходит в стиле рисунка, поэтому показываю аниме — это действительно похоже на рисунок, а не на компьютерную графику. На фото люди тоже выглядят нарисованными, крупные надписи получаются, мелкие превращаются в каракули. Рабочая версия bf16 весит 16,4 ГБ и в 16 ГБ видеопамяти целиком не помещается: часть весов лежит в оперативной памяти, 30 секунд на картинку. Версия fp8 в движке sd.cpp у меня сработала криво — игнорирует промпт и добавляет кучу артефатов.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 13
Файлы и параметры

Версия

Файл

Размер, ГБ

16GB bf16 (часть весов в RAM)

hidream_o1_image_dev_bf16.safetensors

16,4

20 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).

Chroma1-HD

Открытая модель на 8,9 млрд параметров на основе FLUX.1 schnell, поэтому похожа на Flux.1. Её ценят за лицензию Apache 2.0 (у Flux.1 dev лицензия некоммерческая), отсутствие фильтра безопасности и настоящий CFG с негативным промптом. Сильная сторона — плёночная, киношная картинка, как у часовщика. Минусы на наших промптах: 60 секунд на картинку и каракули вместо русских надписей.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 14
Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q8_0

Chroma1-HD.gguf

9,7

8GB Q4_K_S

Chroma1-HD-Q4_K_S.gguf

5,4

26 шагов, CFG 4, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, ae.safetensors.

Moss

OpenMOSS 5B: фотореалистичные люди, точно следует описанию, русские надписи пишет правильно. Самая медленная: 50 шагов, 68 секунд; быстрый режим сокращает до 28 секунд.

sd.cpp вместо Forge Neo: что умеют девять моделей на 16 и 8 ГБ - 15
Файлы и параметры

Версия

Файл

Размер, ГБ

16GB bf16

moss_image_sft_bf16.safetensors

10,2

8GB Q4_K

MOSS-Image-SFT-Q4_K.gguf

3,3

50 шагов, CFG 3, euler, планировщик simple. Вспомогательные файлы: qwen35_9b_int8_convrot.safetensors, flux2-vae_small.safetensors, moss.tokenizer.json.

Итоги

Мой фаворит — Moss. Лучше всех рисует людей, точно следует описанию и правильно пишет русские надписи. Цена — скорость: 68 секунд на картинку, в быстром режиме 28.

Z-Image Turbo — прекрасна, когда нужно быстро: 5 секунд, фотореализм, русские надписи. Версия на 8 ГБ считает так же быстро.

Для остального:

– Flux.3 Klein — тоже быстрая (8 с) и тоже пишет по-русски.

– Krea-2 Turbo — красивое фото за 11 с.

– Qwen-Image — точно по описанию и с текстом, 30 с, в быстром режиме 16.

– Anima — аниме и иллюстрации, одна версия на 4,2 ГБ для любой карты.

– HiDream-O1 — только ради рисованного стиля, в 16 ГБ целиком не влезает.

Flux.1 и Chroma мне не нравятся. Это вкусовщина: у Chroma есть поклонники плёночной картинки и свободной лицензии, но кириллицу не пишет ни одна из них.

sd.cpp для меня себя оправдал: все девять моделей работают без Python, файлы GGUF подбираются под объём видеопамяти. Минусы тоже есть: новые модели в sd.cpp появляются позже, чем в ComfyUI, а файлы fp8 от ComfyUI он понимает не всегда — с HiDream пришлось брать полную версию.

Ссылки

  • Imagecaster [2] — приложение

  • imagecaster-server [3] — сервер, который ставит и запускает модели

Автор: Zazza

Источник [4]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/38608

URLs in this post:

[1] память: http://www.braintools.ru/article/4140

[2] Imagecaster: https://github.com/Zazza/imagecaster

[3] imagecaster-server: https://github.com/Zazza/imagecaster-server

[4] Источник: https://habr.com/ru/articles/1108188/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1108188

www.BrainTools.ru

Rambler's Top100