/ Модель

Характеристики

Лицензия
CreativeML OpenRAIL-M
Базовая модель
Clover-Image-Tiny
Библиотека
diffusers
Опубликована
10 авг 2026

Clover-Image-Tiny-Inpaint

Преобразование изображенийИзображение, текст → изображение3 профессии

Модель на базе компонентов Clover и Stable Diffusion 1.5 для локального редактирования изображений по маске и текстовому запросу.

56скачиваний за 30 дней1лайквеса обновлены7 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Clover Image Tiny Inpaint HQ — модель редактирования изображений по маске от neonforestmist. Она предназначена для локального инпейнтинга: получает исходное изображение, маску и текстовый запрос, затем перерисовывает выбранную область, стараясь сохранить остальную часть изображения. Белая область маски задаёт область перерисовки, чёрная — область сохранения.

Модель использует денойзер для инпейнтинга Stable Diffusion 1.5 вместе с текстовым энкодером, токенизатором, VAE и планировщиком Clover Image Tiny. Для оценки на 24 отложенных правках InpaintCOCO она показала более высокое соответствие запроса маски и меньшую ошибку целевого изображения, чем предыдущая версия Clover Inpaint; в этой же оценке эталонный Stable Diffusion 1.5 inpainting превзошёл её по обеим метрикам. Модель работает с изображениями и текстом, а для запуска доступна через Diffusers; ресурсы Core ML опубликованы отдельно.

Модель подходит для локального редактирования отдельных областей изображений по текстовому запросу. Мелкий текст, кисти рук, лица, точные логотипы и маски меньше разрешения латентного представления могут обрабатываться неудовлетворительно; результат также зависит от исходного изображения, маски и параметров генерации. Лицензия — CreativeML OpenRAIL-M; действуют лицензионные обязательства базовых компонентов Clover Image Tiny и Stable Diffusion 1.5 Inpainting.

Сценарии применения

  • замена объекта в выделенной области изображения
  • добавление предметов по текстовому запросу
  • удаление объекта с заполнением фона
  • редактирование фрагмента фотографии с сохранением остальной сцены

Ограничения

Мелкий текст, руки, лица, точные логотипы и очень небольшие маски могут обрабатываться неудовлетворительно; качество зависит от изображения, маски и параметров генерации. В проведённой оценке эталонная модель Stable Diffusion 1.5 Inpainting превзошла этот выпуск по обеим метрикам.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Inpainting example

The white area of a mask selects what to regenerate; black selects what to preserve. This published example uses the prompt “add blue sunglasses.”

Original imageMasked edit
Cat artwork before the sunglasses editClover inpainting result showing blue sunglasses on the cat

Model

Inpaint HQ uses the full Stable Diffusion 1.5 inpainting denoiser with Clover's text encoder, tokenizer, VAE, and scheduler. It is a larger model than the compact regular Clover text-to-image checkpoint. Regular Clover generates from text; Inpaint HQ requires an image and mask.

On the release's 24-edit held-out evaluation, HQ improved masked prompt alignment by 4.8% and reduced masked target error by 11.1% versus the previous Clover inpainting release. These are evaluation-set results; individual edits still depend on the image, mask, and prompt. See the quality gate and selection record below.

Run an edit with Python

Install the project's pinned Python dependencies. This example uses an NVIDIA CUDA GPU:

import torch
from diffusers import AutoPipelineForInpainting, DPMSolverMultistepScheduler
from diffusers.utils import load_image

pipe = AutoPipelineForInpainting.from_pretrained(
    "neonforestmist/Clover-Image-Tiny-Inpaint",
    torch_dtype=torch.float16,
).to("cuda")
pipe.scheduler = DPMSolverMultistepScheduler.from_config(pipe.scheduler.config)

image = pipe(
    prompt="a glossy red enamel kettle resting naturally on the countertop",
    negative_prompt="blurry, distorted, low detail",
    image=load_image("source.png"),
    mask_image=load_image("mask.png"),
    num_inference_steps=20,
    guidance_scale=6.0,
    padding_mask_crop=96,
).images[0]
image.save("clover-inpaint.png")

Start with 20 steps, guidance 6.0, and 96 pixels of surrounding context. Use a source image and same-size grayscale mask. Small selections benefit from a context crop so the model can see both the edited region and its surroundings. To use an already downloaded model offline, pass local_files_only=True to from_pretrained.

For Apple silicon, change .to("cuda") to .to("mps"). For CPU, use torch_dtype=torch.float32 and .to("cpu"); generation is slower. Hardware, precision, and dependencies can change the result even with the same seed.

Styles and Apple devices

The Clover iOS app linked above provides a native masking workflow. Core ML resources are published separately.

Published Clover attention-only LoRAs are mechanically compatible in Diffusers, but they were trained for text-to-image, so evaluate each style's editing quality. The shipping iOS inpainting screen does not enable dynamic styles. Adapter and deployment details are included in Evaluation and provenance below.

Limits and license

Small text, hands, faces, exact logos, and very small masks can be difficult. Review generated edits before sharing. The model inherits the limitations and CreativeML Open RAIL-M obligations of Clover and Stable Diffusion 1.5 inpainting.

Evaluation and provenance

Quality gate

The release was evaluated on 24 deterministic, held-out, human-rated InpaintCOCO edits. Every output was also reviewed in three visual contact sheets before release.

MetricPrevious Clover inpaintHQ releaseChange vs. previous CloverSD 1.5 inpaint teacher
Masked prompt CLIP similarity ↑0.26420.27684.8% higher0.2820
Masked target MAE ↓0.25100.223111.1% lower error0.2156
Changed pixels outside the mask ↓00Unchanged0

↑ Higher is better; ↓ lower is better. Bold highlights HQ's improvements over the previous Clover release, not the best score across all models. The strongest measured improvement is 11.1% lower masked target error. The SD 1.5 teacher still scores better on both alignment and target error in this evaluation.

The HQ release improves prompt alignment by 4.8% and reduces masked target error by 11.1% relative to the previous Clover inpainting release. The visual gate showed recognizable buses, dogs, trains, furniture, signs, and scene-consistent lighting where the compact candidates often collapsed into amorphous fills.

Selection provenance

The release process compared the existing checkpoint, a 30,000-step full-U-Net distillation run, two fused context-LoRA refinements, partial weight blends, the full Stable Diffusion inpainting reference, and this Clover-component hybrid. The 30,000-step and context-LoRA candidates were rejected because they did not beat the existing release across both visual and quantitative gates. The published HQ architecture was the only Clover-compatible candidate that materially improved both prompt alignment and reconstruction.

  • Inpainting U-Net revision: stable-diffusion-v1-5/stable-diffusion-inpainting@8a4288a76071f7280aedbdb3253bdb9e9d5d84bb
  • Clover components: neonforestmist/Clover-Image-Tiny
  • Evaluation dataset: phiyodr/InpaintCOCO@1ffac84be2dfc5ad9afccad868522fad64457435
  • Selection platform: Modal H100
  • Evaluation seed: 20260813

Core ML and style mixing

The companion iOS resources are published at neonforestmist/Clover-Image-Tiny-Inpaint-CoreML.

In Diffusers, the published Clover style LoRAs are mechanically compatible with this nine-channel U-Net because they modify attention projections only; those tensor shapes are unchanged from the four-channel model. They were trained for text-to-image, however, so masked-edit quality should be evaluated per style. LoRAs that modify the four-channel input convolution are not compatible.

Dynamic Core ML loading is a separate deployment capability. The shipping iOS inpainting screen currently selects a stateless or chunked U-Net and does not enable styles. An adapter-aware stateful nine-channel export can provide up to three independently weighted slots, but it must include the matching adapter schema and be validated on its target devices. For a stateless deployment, fuse a compatible LoRA before conversion.

Limitations

Small text, hands, faces, exact logos, and masks below latent resolution can still fail. Output quality depends on the source, mask, prompt, scheduler, guidance, seed, and step count. This release inherits the limitations and license obligations of Clover Image Tiny and Stable Diffusion 1.5 inpainting.

Citation

@software{lozadaperez2026cloverimagetinyinpaint,
  author = {Lukas Lozada Perez},
  title = {Clover Image Tiny Inpaint HQ: Local Context-Aware Image Inpainting},
  year = {2026},
  url = {https://huggingface.co/neonforestmist/Clover-Image-Tiny-Inpaint}
}

Created by Lukas Lozada Perez.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · diffusers

Нельзя запустить

Модели «картинка → картинка» пока не запускаются.

Ревизия весов
4a27e85

0 моделей