/ Модель

Характеристики

Лицензия
cc-by-nc-2.0
Базовая модель
FLUX.1-Fill-dev
Библиотека
diffusers
Опубликована
6 дек 2024

cat-tryoff-flux

Преобразование изображенийИзображение, текст → изображение3 профессии

CAT-Tryoff-Flux реконструирует вид одежды спереди по фотографии человека и предназначена для виртуальной примерки и визуализации одежды.

236скачиваний за 30 дней17лайковвеса обновлены6 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

CAT-Tryoff-Flux — модель для виртуального снятия одежды, разработанная автором Black Magic An. Она извлекает и реконструирует вид одежды спереди по изображению человека в этой одежде; для работы используются изображение человека, маска человека и изображение предмета одежды, а seed задаёт случайность результата.

Модель основана на FLUX.1-Fill-dev и использует подход CATVTON-FLUX. Её можно применять в сценариях виртуальной примерки и подготовки изображений одежды. В качестве обучающих данных указан датасет VITON-HD. Репозиторий содержит веса Safetensors и рассчитан на использование с библиотекой Diffusers.

Лицензия — CC BY-NC 2.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение. Карточка не приводит количественных оценок качества и подробностей об ограничениях применимости.

Сценарии применения

  • виртуальная примерка одежды на фотографии человека
  • извлечение предмета одежды с изображения человека
  • реконструкция вида одежды спереди для каталога
  • создание изображений одежды для онлайн-магазина

Ограничения

Для работы нужны изображение человека, маска человека и изображение одежды. Лицензия CC BY-NC 2.0 ограничивает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for CAT-Tryoff-Flux

CAT-Tryoff-Flux is an advanced tryoff model. It used the same method of (CATVTON-FLUX)[https://huggingface.co/xiaozaa/catvton-flux-alpha]. This model can extract and reconstruct the front view of clothing items from images of people wearing them.

Model Details

Model Description

Model Sources [optional]

Uses

The model is designed for virtual try-off applications, allowing users to visualize how different garments would look on a person. It can be used directly through command-line interface with the following parameters:

Input person image Person mask Garment image Random seed (optional)

How to Get Started with the Model

transformer = FluxTransformer2DModel.from_pretrained(
    "xiaozaa/cat-tryoff-flux", 
    torch_dtype=torch.bfloat16
)
pipe = FluxFillPipeline.from_pretrained(
    "black-forest-labs/FLUX.1-dev",
    transformer=transformer,
    torch_dtype=torch.bfloat16
).to("cuda")



Training Details

Training Data

VITON-HD dataset

Training Procedure

Finetuning Flux1-dev-fill

Evaluation

Summary

BibTeX:

@misc{chong2024catvtonconcatenationneedvirtual,
 title={CatVTON: Concatenation Is All You Need for Virtual Try-On with Diffusion Models}, 
 author={Zheng Chong and Xiao Dong and Haoxiang Li and Shiyue Zhang and Wenqing Zhang and Xujie Zhang and Hanqing Zhao and Xiaodan Liang},
 year={2024},
 eprint={2407.15886},
 archivePrefix={arXiv},
 primaryClass={cs.CV},
 url={https://arxiv.org/abs/2407.15886}, 
}
@article{lhhuang2024iclora,
  title={In-Context LoRA for Diffusion Transformers},
  author={Huang, Lianghua and Wang, Wei and Wu, Zhi-Fan and Shi, Yupeng and Dou, Huanzhang and Liang, Chen and Feng, Yutong and Liu, Yu and Zhou, Jingren},
  journal={arXiv preprint arxiv:2410.23775},
  year={2024}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · diffusers

Нельзя запустить

Модели «картинка → картинка» пока не запускаются.

Ревизия весов
476deea

0 моделей