Характеристики

Лицензия: Своя лицензия
Базовая модель: FLUX.1-dev
Опубликована: 24 сен 2024

Ссылки

FLUX.1-dev-GGUF

Генерация изображенийТекст → изображение3 профессии

FLUX.1-dev-GGUF — квантованные GGUF-версии модели FLUX.1-dev, разработанной Black Forest Labs и подготовленной к квантованию компанией Second State Inc.

3 092скачиваний за 30 дней14лайковвеса обновлены28 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель генерации изображений по текстовому описанию, ориентированная на сценарии text-to-image и использование в сервисах на базе sd-api-server; заявлена поддержка LoRA.

Модель использует компоненты FLUX.1-dev, включая VAE, CLIP-L и T5-XXL. Доступны варианты квантования от 2 до 8 бит, а также исходные версии в форматах f16 и f32; размер основных файлов зависит от варианта и составляет примерно от 4,15 до 23,8 ГБ, а T5-XXL — от 1,61 до 9,79 ГБ. В метаданных указан английский язык. Архитектура, максимальный контекст и точные характеристики качества в README не описаны.

К преимуществам относятся широкий выбор уровней квантования, возможность снизить требования к памяти и интеграция с sd-api-server и LoRA. Более агрессивное квантование может ограничивать качество по сравнению с полноразмерными версиями; требования к оборудованию и производительности не указаны. Модель распространяется по лицензии FLUX.1-dev Non-Commercial License, поэтому коммерческое использование может быть ограничено условиями лицензии.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей IV.1Отраслевые задачиРитейл, электронная коммерция и fashion-techAI помогает управлять ассортиментом, покупательским опытом и эффективностью торговых операций.29 задач5 934модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

FLUX.1-dev-GGUF

Original Model

black-forest-labs/FLUX.1-dev

Run with `sd-api-server`

sd-api-server version: 0.1.4

Run as LlamaEdge service

wasmedge --dir .:. sd-api-server.wasm \
  --model-name flux1-dev \
  --diffusion-model flux1-dev-Q4_0.gguf \
  --vae ae.safetensors \
  --clip-l clip_l.safetensors \
  --t5xxl t5xxl-Q8_0.gguf

Run with LoRA

Assume that the LoRA model is located in the lora-models directory

wasmedge --dir .:. \
  --dir lora-models:lora-models \
  sd-api-server.wasm \
  --model-name flux1-dev \
  --diffusion-model flux1-dev-Q4_0.gguf \
  --vae ae.safetensors \
  --clip-l clip_l.safetensors \
  --t5xxl t5xxl-Q8_0.gguf \
  --lora-model-dir lora-models

For details, see https://github.com/LlamaEdge/sd-api-server/blob/main/examples/flux_with_lora.md

Quantized GGUF Models

Name	Quant method	Bits	Size
ae.safetensors	f32	32	335 MB
clip_l-Q8_0.gguf	Q8_0	8	131 MB
clip_l.safetensors	f16	16	246 MB
flux1-dev-Q2_K.gguf	Q2_K	2	4.15 GB
flux1-dev-Q3_K.gguf	Q3_K	3	5.35 GB
flux1-dev-Q4_0.gguf	Q4_0	4	6.93 GB
flux1-dev-Q4_1.gguf	Q4_1	4	7.67 GB
flux1-dev-Q4_K.gguf	Q4_K	4	6.93 GB
flux1-dev-Q5_0.gguf	Q5_0	5	8.40 GB
flux1-dev-Q5_1.gguf	Q5_1	5	9.14 GB
flux1-dev-Q8_0.gguf	Q8_0	8	12.6 GB
flux1-dev.safetensors	f16	16	23.8 GB
t5xxl-Q2_K.gguf	Q2_K	2	1.61 GB
t5xxl-Q3_K.gguf	Q3_K	3	2.10 GB
t5xxl-Q4_0.gguf	Q4_0	4	2.75 GB
t5xxl-Q4_1.gguf	Q4_0	4	3.06 GB
t5xxl-Q4_K.gguf	Q4_K	4	2.75 GB
t5xxl-Q5_0.gguf	Q5_0	5	3.36 GB
t5xxl-Q5_1.gguf	Q5_1	5	3.67 GB
t5xxl-Q8_0.gguf	Q8_0	8	5.20 GB
t5xxl_fp16.safetensors	f16	16	9.79 GB

Quantized with stable-diffusion.cpp master-e71ddce.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Не удалось определить, чем загружать веса модели (нет library_name и architectures).

Ревизия весов: 552421a

Характеристики

Ссылки

FLUX.1-dev-GGUF

Бенчмарки

Публичные оценки

Что умеет модель

Для каких профессий подходит3

Карточка модели

FLUX.1-dev-GGUF

Original Model

Run with sd-api-server

Quantized GGUF Models

Как запустить

Run with `sd-api-server`