I.8Изображения и компьютерное зрение
В разделе собраны самостоятельные задачи, где AI помогает извлекать визуальные признаки, изменять изображения и создавать новые визуальные материалы. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
6 331 модельStable Diffusion v1.5 Inpainting — латентная диффузионная модель генерации и редактирования изображений по текстовым запросам и маске. Репозиторий — повторная публикация весов модели, разработанной Робином Ромбахом и Патриком Эссером; модель основана на Stable Diffusion v1.2 и дообучена для восстановления замаскированных областей изображения. Вариант для inpainting добавляет к входу UNet пять каналов для закодированного изображения с маской и самой маски. Модель использует текстовый энкодер CLIP ViT-L/14 и рассчитана прежде всего на английские запросы. Подходит для заполнения выделенных областей, удаления или замены объектов и творческого редактирования изображений с помощью текстового описания. Модель работает с изображениями разрешения 512×512. Она может ошибаться в деталях, лицах и сложной композиции, плохо воспроизводит читаемый текст, а результаты по неанглийским запросам обычно хуже. Обучающие данные содержали взрослый контент, а модель может усиливать социальные предубеждения и запоминать дубликаты изображений. Лицензия — CreativeML OpenRAIL-M с ограничениями на использование и распространение; условия лицензии следует соблюдать при применении модели.
Карточка модели tdvipp/stable-diffusion-v1-5-inpainting на Hugging Face совпадает с карточкой benjamin-paine/stable-diffusion-v1-5-inpainting, поэтому описание составлено по ней. Stable Diffusion v1.5 Inpainting — латентная диффузионная модель генерации и редактирования изображений по текстовым запросам и маске. Репозиторий — повторная публикация весов модели, разработанной Робином Ромбахом и Патриком Эссером; модель основана на Stable Diffusion v1.2 и дообучена для восстановления замаскированных областей изображения. Вариант для inpainting добавляет к входу UNet пять каналов для закодированного изображения с маской и самой маски. Модель использует текстовый энкодер CLIP ViT-L/14 и рассчитана прежде всего на английские запросы. Подходит для заполнения выделенных областей, удаления или замены объектов и творческого редактирования изображений с помощью текстового описания. Модель работает с изображениями разрешения 512×512. Она может ошибаться в деталях, лицах и сложной композиции, плохо воспроизводит читаемый текст, а результаты по неанглийским запросам обычно хуже. Обучающие данные содержали взрослый контент, а модель может усиливать социальные предубеждения и запоминать дубликаты изображений. Лицензия — CreativeML OpenRAIL-M с ограничениями на использование и распространение; условия лицензии следует соблюдать при применении модели.
ViT-B-16-SigLIP — модель сопоставления изображений и текста, обученная на наборе WebLI с помощью SigLIP, функции потерь для предобучения на парах изображение–текст. Исходные веса из JAX-чекпойнтов Big Vision преобразованы в PyTorch; модель можно использовать с OpenCLIP для работы с изображениями и текстом, а с timm — для получения представлений изображений. Модель предназначена для классификации изображений без дополнительного обучения: она сопоставляет изображение с текстовыми описаниями и позволяет выбирать наиболее подходящие метки. Также она подходит для получения эмбеддингов изображений в timm. В репозитории доступны веса PyTorch и Safetensors, лицензия — Apache-2.0.
ViT-B-16-SigLIP-384 — модель сопоставления изображений и текста на основе SigLIP, обученная на наборе WebLI. Чекпойнт преобразован из исходных весов JAX проекта Big Vision в формат PyTorch; репозиторий поддерживает использование через OpenCLIP для работы с изображениями и текстом, а также через timm для получения представлений изображений. Лицензия — Apache-2.0. Модель предназначена для классификации изображений по текстовым описаниям без отдельного обучения на целевых классах и для получения эмбеддингов изображений. Можно сравнивать изображение с набором текстовых меток или описаний и выбирать наиболее подходящее. Вариант имеет размер изображения 384 пикселя по стороне, что отражено в названии модели. Модель использует контрастивное обучение изображения и текста с функцией потерь SigLIP и обучалась на WebLI. Карточка не сообщает о поддержке конкретных естественных языков, поэтому языковые возможности текстового компонента нельзя уточнить. Для прикладного сценария качество зависит от соответствия текстовых меток обучающим данным и выбранной предметной области.
ViT-SO400M-16-SigLIP-i18n-256 — мультиязычная контрастивная модель сопоставления изображений и текста на основе SigLIP, опубликованная timm. Она обучена на наборе WebLI с мультиязычным токенизатором и предназначена для классификации изображений по текстовым описаниям без дообучения: модель оценивает соответствие изображения и вариантов текста. Через OpenCLIP доступны обработка изображений и текста и zero-shot классификация; через timm — получение эмбеддингов изображений. Чекпойнт преобразован из исходных весов JAX проекта Big Vision в PyTorch и распространяется в форматах PyTorch и safetensors. Лицензия — Apache-2.0.
CLIP-convnext_xxlarge-laion2B-s34B-b82K-augreg-soup — мультимодальная модель семейства CLIP, обученная Ross Wightman с использованием OpenCLIP на английской подвыборке LAION-2B. Она сопоставляет изображения и текстовые описания в общем пространстве признаков и предназначена прежде всего для классификации изображений по текстовым меткам без дообучения, а также для поиска изображений по тексту и текстов по изображению. Визуальная часть построена на ConvNeXt-XXLarge из timm с проекционным слоем; текстовая часть имеет размерность 1024, 16 attention heads и 24 слоя. Вся модель содержит около 1,2 млрд параметров и обучалась на изображениях разрешением 256×256. В README указана точность 79,4% top-1 на ImageNet при zero-shot классификации. Модель рассчитана на англоязычные сценарии: обучение и оценка на других языках не проводились. В README не рекомендуют развёртывание без тщательной проверки на конкретной фиксированной таксономии классов; распознавание лиц и наблюдение прямо отнесены к недопустимым сценариям. Лицензия — MIT.
zeromodels/clip_vit_base_16 — конверсия CLIP ViT-B/16 от OpenAI в Keras 3 для библиотеки zeromodels. Модель использует парные текстовый и визуальный энкодеры, которые сопоставляют изображения и текстовые описания в общем пространстве эмбеддингов; вариант предназначен для классификации изображений без дополнительного обучения по текстовым подсказкам. Реализация работает с TensorFlow, Torch и JAX, а репозиторий содержит веса в формате TensorFlow. Модель принимает изображения и текстовые запросы при инференсе и подходит для классификации по пользовательским категориям, поиска изображений по тексту и получения совместных эмбеддингов. Для обработки рекомендуется использовать соответствующий Processor, чтобы согласовать размер изображения и токенизатор. Лицензия — MIT.
zeromodels подготовили конверсию CLIP ViT-L/14 с входным разрешением 336 пикселей в формате Keras 3. Модель использует два энкодера — для изображений и текста — которые сопоставляют данные в общем пространстве представлений; веса основаны на openai/clip-vit-large-patch14-336. Модель предназначена для классификации изображений по текстовым категориям, заданным во время выполнения, без отдельного обучения. Её также можно использовать для поиска соответствий между изображениями и текстом и получения эмбеддингов. Реализация Keras 3 работает с TensorFlow, PyTorch и JAX; для инференса подаются изображения и текстовые запросы. Репозиторий распространяется по лицензии MIT. Это конверсия базовой модели, поэтому заявленные возможности и ограничения следуют CLIP ViT-L/14-336; README отсылает за подробностями к карточке исходной модели.
Это модель EVA-02 в варианте CLIP, опубликованная организацией timm (PyTorch Image Models). Она предназначена для классификации изображений без примеров обучения на заданных категориях: изображение сопоставляется с текстовыми описаниями классов, а модель оценивает их соответствие. Модель использует архитектуру EVA-02 с патчами 14×14 и CLIP-подобное совместное представление изображений и текста; входной размер изображения — 224 пикселя. В названии указаны обучение на LAION-2B и вариант обучения s9b продолжительностью 144k шагов. Модель принимает изображения и текстовые метки или описания, выдаёт оценки соответствия для выбора наиболее подходящей категории. Для использования предусмотрена библиотека OpenCLIP. Репозиторий распространяется по лицензии MIT. Карточка не приводит конкретный перечень поддерживаемых естественных языков; качество зависит от формулировки текстовых меток и состава данных обучения.
FLUX.1 Fill [dev] — модель генерации и редактирования изображений от Black Forest Labs. Это трансформер rectified flow с 12 млрд параметров, обученный с дистилляцией guidance. Модель заполняет выбранные области существующего изображения по текстовому описанию, стараясь согласовать результат с запросом и структурой исходного изображения. Модель предназначена для редактирования изображений и творческих рабочих процессов: например, для замены или добавления объектов и восстановления областей изображения по текстовой инструкции. Она принимает изображение и текстовое описание и выдаёт отредактированное изображение. Для запуска предусмотрена поддержка Diffusers через FluxFillPipeline. Качество генерации и следование запросу могут уступать FLUX.1 Fill [pro] и зависят от формулировки запроса. При заполнении сложных текстур возможны линии на границах области, а незатронутые области могут немного менять цвет. Модель не предназначена для предоставления фактической информации и может усиливать социальные предубеждения. Для весов указана лицензия FLUX.1 [dev] Non-Commercial License; README описывает допустимые сценарии использования, но лицензия ограничивает коммерческое применение.
HiDream-E1.1 — модель редактирования изображений от HiDream.ai, построенная на базе HiDream-I1-Full. Она предназначена для изменения изображений по инструкциям и для интерактивного редактирования через демонстрационное приложение Gradio. В карточке приведены результаты оценки на наборах EmuEdit и ReasonEdit, охватывающих глобальные и локальные изменения, добавление и удаление объектов, редактирование текста, фона, цвета и стиля. Модель распространяется в форматах Diffusers и safetensors и использует библиотеку Diffusers. Для запуска автор рекомендует установить Flash Attention и последнюю версию Diffusers; в README также указана рекомендация по CUDA 12.4. Лицензия — MIT. Размер модели, длина контекста и список поддерживаемых языков в источниках не приведены.
radames/instruct-pix2pix-img2img — модель редактирования изображений по текстовым инструкциям, основанная на InstructPix2Pix и предназначенная для использования с библиотекой Diffusers. Пользователь передаёт исходное изображение и описывает требуемые изменения, а модель создаёт отредактированное изображение. Модель подходит для преобразования изображений по запросу на естественном языке. В метаданных основная задача указана как image-to-image; классификатор каталога также отмечает text-to-image, однако README описывает именно редактирование существующего изображения. Репозиторий распространяет веса в формате Diffusers, включая safetensors. Лицензия — MIT. Карточка не сообщает размер модели, поддерживаемые языки, длину контекста и конкретные ограничения качества. Для запуска README приводит зависимости diffusers, accelerate, safetensors и transformers.
Карточка модели servantofares/Mage-Flow-Edit-Turbo на Hugging Face совпадает с карточкой Mage-Fans/Mage-Flow-Edit-Turbo, поэтому описание составлено по ней. Mage-Flow-Edit-Turbo — вариант модели Mage-Flow-Edit для редактирования изображений по текстовым инструкциям, разработанный командой Mage-Flow. Это мультимодальный диффузионный трансформер NR-MMDiT с 4 млрд параметров, работающий в латентном пространстве Mage-VAE и обученный методом rectified flow. Версия Turbo использует дистиллированный режим генерации за четыре шага. Модель принимает исходное изображение и текстовую инструкцию. Она предназначена для смыслового и локального редактирования содержимого, преобразования внешнего вида и стиля, изменения сцен и объектов, восстановления изображений и других преобразований с учётом структуры. Семейство рассчитано на работу с изображениями в родном разрешении от 512 до 2048 пикселей и разными соотношениями сторон; в README приведены результаты редактирования на изображениях 1024×1024. Репозиторий распространяется в формате Diffusers с весами Safetensors. Указана лицензия MIT. Для запуска описана установка CUDA-зависимостей, включая flash-attn. README заявляет интерактивную скорость редактирования, но фактическая производительность зависит от оборудования; указанное измерение для Turbo получено на одном A100.
JovanHengGhimHong/magicbrush-diffusers — версия модели MagicBrush в формате Diffusers. По метаданным, она использует StableDiffusionInstructPix2PixPipeline и предназначена для редактирования изображений по текстовым инструкциям: на вход подаются изображение и запрос на изменение, на выходе получается отредактированное изображение. Репозиторий содержит веса в форматах Diffusers и PyTorch. Модель подходит для локального редактирования изображений с помощью библиотеки Diffusers. Сведений о размере, контекстном окне, языковой поддержке и лицензии в доступных данных нет.
nunchaku-ai/nunchaku-qwen-image-edit-2509 — это квантизированная версия модели Qwen/Qwen-Image-Edit-2509, разработанная командой Nunchaku. Модель относится к классу image-to-image и предназначена для редактирования изображений по текстовым инструкциям, включая сценарии, где требуется сложное отображение текста. Она реализована для библиотеки Diffusers и оптимизирована для эффективного инференса при минимальной потере качества относительно исходной модели Qwen-Image-Edit-2509. В репозитории представлены варианты в форматах INT4 для GPU до поколения NVIDIA 50-й серии и NVFP4 для GPU Blackwell 50-й серии. Доступны варианты с рангом r32, обеспечивающие более быстрый инференс, и r128, ориентированные на лучшее качество при более низкой скорости. Также имеются дистиллированные версии для генерации за 4 или 8 шагов, объединённые с LoRA Qwen-Image-Lightning. Размер модели, точная архитектура, поддерживаемые языки и максимальная длина контекста в README не указаны. Основные сильные стороны модели — снижение вычислительных требований за счёт квантизации, несколько вариантов компромисса между скоростью и качеством, а также ускоренные lightning-версии. Ограничения включают зависимость характеристик от типа GPU, ранга и выбранного варианта, а также потенциальное снижение качества по сравнению с полной версией модели. Лицензия — Apache-2.0.
PE-Core-S-16-384 — версия модели Perception Encoder, разработанной Meta и преобразованной для OpenCLIP. Это контрастивный энкодер изображений и текста: он кодирует изображения и текстовые описания в общее пространство признаков для сопоставления и классификации по пользовательским категориям. Вариант S/16 принимает изображения с разрешением 384 пикселя; в семействе PE Core используются визуальный энкодер с блоком attention pooling и текстовый энкодер. Модель предназначена для классификации изображений без обучения на целевых классах, поиска изображений по тексту и поиска текстовых описаний по изображению. В карточке также приведены результаты для видео-классификации и поиска, однако метаданные этой версии указывают основной сценарий как zero-shot image classification. Модель доступна в форматах PyTorch и safetensors, использует библиотеку OpenCLIP и распространяется по лицензии Apache-2.0. В README не приведено точное число параметров варианта S/16, поэтому размер модели здесь не указан.
Perception Encoder PE-Core-S16-384 — визуальный энкодер семейства Perception Encoder, разработанный Meta. Модель использует vision-language обучение с контрастивным предобучением и дообучением на синтетически выровненных видеоданных; конфигурация S/16-384 в README отдельно не описана, поэтому её размер и точные параметры здесь не приводятся. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах. Семейство PE также рассчитано на получение визуальных признаков для классификации, поиска и задач понимания видео. Репозиторий содержит веса PyTorch; лицензия Apache-2.0.
Sanster/PowerPaint-V1-stable-diffusion-inpainting — модель для редактирования изображений методом дорисовки и заполнения областей. Она основана на runwayml/stable-diffusion-inpainting: исходный UNet заменён на UNet из PowerPaint, а в text encoder добавлены обученные токены P_ctxt, P_shape и P_obj. Модель принимает изображение и текстовое описание для генерации содержимого в выбранной области. Она предназначена для сценариев inpainting, например удаления или замены объектов и изменения отдельных частей изображения. Репозиторий содержит веса в формате Diffusers и SafeTensors. В README не указана лицензия, поэтому условия использования по доступным сведениям определить нельзя. Характеристики PowerPaint и базовой модели наследуют ограничения Stable Diffusion для дорисовки изображений; отдельные ограничения этой версии в карточке не описаны.
PP-LCNet_x0_25_textline_ori_safetensors — модель PaddlePaddle на архитектуре PP-LCNet, предназначенная для классификации ориентации строк текста на изображениях. Она помогает предварительно определить поворот текста и скорректировать его при постобработке, чтобы повысить качество OCR в сценариях сканирования документов и съёмки удостоверений или сертификатов, когда камера может быть повёрнута. Модель принимает изображение и выдаёт класс ориентации строки; в карточке указана поддержка английского и китайского языков. Вес модели опубликован в формате safetensors, лицензия — Apache-2.0. Число параметров и длина контекста в предоставленных данных не указаны.
PP-LCNet_x1_0_textline_ori_safetensors — модель PaddlePaddle для классификации ориентации строк текста на изображениях. Она предназначена для предварительного этапа OCR: определяет поворот текстовых строк и позволяет исправить его постобработкой, чтобы повысить точность распознавания документов, снятых сканером или камерой под разными углами. Модель построена на архитектуре PP-LCNet и распространяется в формате safetensors. Карточка указывает поддержку английского и китайского языков и лицензию Apache-2.0.
PaddlePaddle/PP-OCRv6_medium_det_onnx — модель обнаружения текстовых строк из семейства PP-OCRv6, разработанная PaddlePaddle для библиотеки PaddleOCR. Она предназначена для OCR-сценариев, в которых требуется находить области текста на изображениях перед последующим распознаванием символов, например при обработке документов, фотографий, скриншотов и других изображений с текстом. Модель поставляется в формате ONNX и относится к задачам image-to-text и text line detection. В карточке указано, что модель связана с языками английским и китайским, однако подробные сведения об архитектуре, точном количестве параметров, размере входных данных, длине контекста и поддерживаемых типах изображений не приведены. К сильным сторонам относятся специализация на обнаружении текстовых строк и возможность использования в ONNX-совместимой инфраструктуре; характеристики точности, производительности и ограничения README не уточняет. Модель распространяется по лицензии Apache 2.0.
Qwen-Edit-2509-Upscale-LoRA — адаптер LoRA от vafipas663 для базовой модели Qwen/Qwen-Image-Edit-2509. Модель предназначена для повышения качества и восстановления фотографий в сценариях image-to-image, включая работу с изображениями низкого разрешения, шумом, размытием, JPEG-артефактами, пикселизацией, полосатостью цветов и результатами других моделей масштабирования. Для достижения лучшего эффекта рекомендуется использовать промпт с указанием улучшения качества и подробным текстовым описанием сцены. Адаптер обучен на отфильтрованных подмножествах Unsplash-Lite и UltraHR-100K при разрешении 2,4 Мп. Он ориентирован на фотографический стиль и такие объекты, как пейзажи, архитектура, интерьеры, портреты, растения, транспорт, абстрактные фотографии, предметы и еда. Заявлена способность восстанавливать изображения с увеличением до 16 раз, шумом до 50%, Gaussian blur радиусом до 3 пикселей, JPEG-качеством до 5%, motion blur до 64 пикселей, пикселизацией до 16 раз и цветовыми полосами до 3 бит. Модель не обучалась на 2D-изображениях, иллюстрациях, произведениях искусства, тексте, графике и CGI, поэтому для таких материалов её применение может быть ограничено. LoRA A и LoRA B предназначены для последовательного подключения. В README рекомендуется использовать ModelSamplingAuraFlow со значением shift ниже 0,3, а также сэмплеры LCM, Euler Ancestral или Euler; конкретные параметры могут влиять на плавность результата. Проект находится в разработке, доступно несколько промежуточных контрольных точек. Лицензия — GPL-3.0.
Это конвертированная версия модели редактирования изображений Qwen/Qwen-Image-Edit-2509, подготовленная lite-infer для загрузки через Diffusers Nunchaku Lite. Трансформер использует квантизацию Nunchaku Lite SVDQ NVFP4 с рангом 32; текстовый энкодер сжат BitsAndBytes до 4-битного NF4 с вычислениями в bfloat16. В исходный чекпойнт уже объединена Lightning LoRA для генерации за 8 шагов. Модель предназначена для редактирования изображения по текстовому запросу. В README приведён замер для 8 шагов на входе 1248×832: средняя задержка составила 10,24 секунды, пиковое выделение видеопамяти — 21,57 ГиБ; результаты относятся к указанной конфигурации и оборудованию замера. README не сообщает поддерживаемые языки и лицензию, поэтому эти характеристики здесь не уточняются.
Карточка модели perpetual3x/Qwen-Image-Edit-Rapid-AIO-V23 на Hugging Face совпадает с карточкой prithivMLmods/Qwen-Image-Edit-Rapid-AIO-V23, поэтому описание составлено по ней. Это ускоренная версия Qwen Image Edit, подготовленная prithivMLmods на основе Phr00t/Qwen-Image-Edit-Rapid-AIO. Репозиторий содержит веса трансформера в формате safetensors, совместимые с Diffusers и извлечённые из Phr00t/Qwen-Image-Edit-Rapid-AIO-NSFW-V23. Модель предназначена для редактирования изображений по текстовым инструкциям за четыре шага инференса. Модель принимает изображение и текстовую инструкцию и выдаёт отредактированное изображение. В метаданных указан английский язык; лицензия — Apache 2.0. Слово NSFW в названии исходной модели указывает на возможность работы с контентом для взрослых, но карточка не уточняет ограничения или гарантии качества.
SegFormer B2 для семантической сегментации людей на изображениях: модель дообучена автором репозитория yolo12138 на наборе human_parsing_29_mix на основе mattmdjaga/segformer_b2_clothes. Она присваивает пикселям классы частей тела и одежды, включая волосы, лицо, руки, ноги, юбки и элементы верхней одежды. В оценке на тестовом наборе указаны Mean IoU 0,6023 и Overall Accuracy 0,9780. Модель подходит для анализа одежды и позиций частей тела на фотографиях, например для каталогизации изображений или подготовки масок сегментации. Метрики показывают неодинаковое качество по классам: для лица, волос, рук и брюк результаты высокие, тогда как для перчаток, очков, обуви, пальто и сумок низкие или нулевые. Репозиторий распространяется по лицензии MIT.
Карточка модели yshsdfv/siglip2-base-patch16-naflex на Hugging Face совпадает с карточкой google/siglip2-base-patch16-naflex, поэтому описание составлено по ней. SigLIP 2 Base — базовая модель семейства SigLIP 2, разработанная Google. Это плотный визуально-языковой энкодер класса Siglip2Model для сопоставления изображений и текста; модель доступна в формате Safetensors и используется через библиотеку Transformers. Модель предназначена для классификации изображений по произвольным текстовым меткам без отдельного обучения, поиска соответствий между изображениями и текстом, а также в качестве визуального энкодера для мультимодальных моделей и других задач компьютерного зрения. SigLIP 2 объединяет улучшения предобучения SigLIP для семантического понимания изображений, локализации и получения плотных признаков. Она предобучена на наборе WebLI. Модель принимает изображения и текстовые описания или метки и выдаёт оценки соответствия, пригодные для ранжирования вариантов. Карточка не сообщает конкретный размер параметров и длину контекста. Лицензия Apache-2.0 разрешает использование, изменение и распространение с соблюдением её условий. Оценки из карточки относятся к исследовательской публикации; качество может различаться на задачах и данных, отличающихся от предобучения.
SigLIP 2 Giant — модель семейства SigLIP 2, разработанная Google. Это визуально-языковой энкодер, обученный на датасете WebLI; доступен через библиотеку Transformers и распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для классификации изображений по заданным текстовым меткам без специального дообучения, поиска соответствий между изображениями и текстом, а также для использования в качестве визуального энкодера в мультимодальных системах и других задачах компьютерного зрения. В README также описаны улучшения семантического понимания, локализации и получения плотных визуальных признаков. Карточка не приводит размер модели, контекстное окно или перечень поддерживаемых естественных языков. Модель принимает изображения и текстовые метки, а для классификации возвращает оценки соответствия меткам. Ключевые ограничения и результаты оценки в доступном описании не раскрыты.
Карточка модели Zlhugface1/stable-diffusion-2-inpainting на Hugging Face совпадает с карточкой sd2-community/stable-diffusion-2-inpainting, поэтому описание составлено по ней. Stable Diffusion 2 Inpainting — модель латентной диффузии для редактирования изображений по текстовому запросу и маске. Этот репозиторий является зеркалом устаревшей модели stabilityai/stable-diffusion-2-inpainting; авторы модели — Робин Ромбах и Патрик Эссер, зеркало не связано со Stability AI. Модель создана на основе stable-diffusion-2-base и дополнительно обучена на 200 тысячах шагов. Для задания текста использует фиксированный предварительно обученный энкодер OpenCLIP-ViT/H, а маска и латентное представление изображения служат дополнительными условиями генерации. Модель предназначена для заполнения или изменения выбранных областей изображения, а также творческого дизайна и исследовательской работы с генеративными моделями. Карточка описывает применение через Diffusers; метаданные указывают форматы Diffusers, PyTorch и safetensors. Основной язык запросов — английский: модель обучалась преимущественно на английских подписях, поэтому запросы на других языках могут работать хуже. Лицензия — CreativeML Open RAIL++-M License.
Карточка модели ghunkins/stable-diffusion-v1-5-inpainting на Hugging Face совпадает с карточкой benjamin-paine/stable-diffusion-v1-5-inpainting, поэтому описание составлено по ней. Stable Diffusion v1.5 Inpainting — латентная диффузионная модель генерации и редактирования изображений по текстовым запросам и маске. Репозиторий — повторная публикация весов модели, разработанной Робином Ромбахом и Патриком Эссером; модель основана на Stable Diffusion v1.2 и дообучена для восстановления замаскированных областей изображения. Вариант для inpainting добавляет к входу UNet пять каналов для закодированного изображения с маской и самой маски. Модель использует текстовый энкодер CLIP ViT-L/14 и рассчитана прежде всего на английские запросы. Подходит для заполнения выделенных областей, удаления или замены объектов и творческого редактирования изображений с помощью текстового описания. Модель работает с изображениями разрешения 512×512. Она может ошибаться в деталях, лицах и сложной композиции, плохо воспроизводит читаемый текст, а результаты по неанглийским запросам обычно хуже. Обучающие данные содержали взрослый контент, а модель может усиливать социальные предубеждения и запоминать дубликаты изображений. Лицензия — CreativeML OpenRAIL-M с ограничениями на использование и распространение; условия лицензии следует соблюдать при применении модели.
UniPic3-Consistency-Model — модель Skywork для редактирования изображений и композиции нескольких изображений, основанная на Consistency Flow Matching. Она дистиллирована из UniPic-3 и сопоставляет зашумлённые латентные состояния с чистыми изображениями, поддерживая генерацию не более чем за 8 шагов. Модель ориентирована на сохранение структуры и композиции, геометрическое выравнивание и семантическую согласованность, в том числе при взаимодействии человека с объектами. Лицензия — MIT.