Характеристики

Лицензия: Apache 2.0
Опубликована: 7 июл 2024

Ссылки

controlnet-union-sdxl-1.0

Генерация изображений4 профессии

ControlNet Union SDXL 1.0 — модель, разработанная командой xinsir для управляемой генерации и редактирования изображений на базе Stable Diffusion XL и архитектуры ControlNet.

136 тыс.скачиваний за 30 дней1 856лайковвеса обновлены30 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Изображения» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели сгенерируют результат по каждой задаче. Опубликованный тест появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она предназначена для text-to-image и image-to-image сценариев, в которых нужно задавать структуру, позу, глубину, контуры, линейный рисунок и другие визуальные условия, а также комбинировать несколько условий в одном запросе. В версии ProMax заявлена поддержка более 10 типов управления и пяти расширенных функций редактирования, включая устранение размытия по тайлам, вариативность, тайловое суперразрешение, inpainting и outpainting.

Модель использует модифицированную архитектуру оригинального ControlNet с общими параметрами и единым энкодером условий для разных типов входных изображений. По заявлению авторов, она обучалась на более чем 10 миллионах изображений с применением bucket training, многоразмерного обучения, аугментаций и переформулированных описаний. Это позволяет работать с изображениями высокого разрешения и различными соотношениями сторон, поддерживать одновременное использование нескольких условий без заметного увеличения вычислительных затрат и сохранять совместимость с другими SDXL- и LoRA-моделями. Точный размер модели, список поддерживаемых языков, максимальная длина контекста и полный перечень условий в README не указаны.

Сильные стороны модели — универсальность, управление композицией и структурой изображения, поддержка объединения нескольких условий, а также применение к задачам детального редактирования и увеличения разрешения. Ограничения связаны с отсутствием в README подробных инструкций по инференсу, точных требований к оборудованию и количественных результатов оценки; заявленные характеристики производительности и качества не подтверждены приведёнными метриками. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.8Универсальные способностиИзображения и компьютерное зрениеAI помогает извлекать визуальные признаки, изменять изображения и создавать новые визуальные материалы.17 задач6 331модель IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.10Универсальные способностиВидео, анимация и 3DAI помогает создавать, анализировать и преобразовывать динамический визуальный контент и 3D-сцены.18 задач3 279моделей IV.1Отраслевые задачиРитейл, электронная коммерция и fashion-techAI помогает управлять ассортиментом, покупательским опытом и эффективностью торговых операций.29 задач5 934модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ControlNet++: All-in-one ControlNet for image generations and editing!

ProMax Model has released!! 12 control + 5 advanced editing, just try it!!!

images_display

Network Arichitecture

images

Advantages about the model

Use bucket training like novelai, can generate high resolutions images of any aspect ratio
Use large amount of high quality data(over 10000000 images), the dataset covers a diversity of situation
Use re-captioned prompt like DALLE.3, use CogVLM to generate detailed description, good prompt following ability
Use many useful tricks during training. Including but not limited to date augmentation, mutiple loss, multi resolution
Use almost the same parameter compared with original ControlNet. No obvious increase in network parameter or computation.
Support 10+ control conditions, no obvious performance drop on any single condition compared with training independently
Support multi condition generation, condition fusion is learned during training. No need to set hyperparameter or design prompts.
Compatible with other opensource SDXL models, such as BluePencilXL, CounterfeitXL. Compatible with other Lora models.

We design a new architecture that can support 10+ control types in condition text-to-image generation and can generate high resolution images visually comparable with midjourney. The network is based on the original ControlNet architecture, we propose two new modules to: 1 Extend the original ControlNet to support different image conditions using the same network parameter. 2 Support multiple conditions input without increasing computation offload, which is especially important for designers who want to edit image in detail, different conditions use the same condition encoder, without adding extra computations or parameters. We do thoroughly experiments on SDXL and achieve superior performance both in control ability and aesthetic score. We release the method and the model to the open source community to make everyone can enjoy it.

Inference scripts and more details can found: https://github.com/xinsir6/ControlNetPlus/tree/main

If you find it useful, please give me a star, thank you very much

SDXL ProMax version has been released!!!，Enjoy it!!!

I am sorry that because of the project's revenue and expenditure are difficult to balance, the GPU resources are assigned to other projects that are more likely to be profitable, the SD3 trainging is stopped until I find enough GPU supprt, I will try my best to find GPUs to continue training. If this brings you inconvenience, I sincerely apologize for that. I want to thank everyone who likes this project, your support is what keeps me going

Note: we put the promax model with a promax suffix in the same huggingface model repo, detailed instructions will be added later.