/ Модель

Характеристики

Размер весов
1,4 ГБ
Лицензия
CC BY-NC 4.0
Библиотека
diffusers
Опубликована
17 мар 2026

EffectErase

Языковая модельВидео, текст → видео3 профессии

EffectErase удаляет объекты и связанные с ними визуальные эффекты из видео, восстанавливая фон.

549скачиваний за 30 дней13лайковвеса обновлены10 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

EffectErase — модель удаления объектов и связанных с ними визуальных эффектов из видео, разработанная Yang Fu, Yike Zheng, Ziyun Dai и Henghui Ding из Института больших данных Колледжа компьютерных наук и искусственного интеллекта Фуданьского университета. Чекпойнт опубликован для метода, представленного как Highlight на CVPR 2026, и обучен на наборе VOR с 60 тысячами пар видео и соответствующими масками объектов.

Модель предназначена для удаления движущихся объектов вместе с их деформациями, тенями и отражениями и восстановления цельного фона. Метод использует взаимное обучение удаления и вставки объектов, с учетом областей, затронутых эффектами. Репозиторий предоставляет чекпойнт PyTorch для использования с библиотекой Diffusers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. В карточке не приведены ограничения по разрешению или длине входного видео.

Сценарии применения

  • удаление движущихся объектов из видео
  • удаление теней и отражений от удалённых объектов
  • восстановление фона после удаления объекта
  • очистка видеоматериалов от нежелательных объектов
  • подготовка видео для визуальных эффектов и монтажа

Ограничения

Лицензия CC BY-NC 4.0 запрещает коммерческое использование. Карточка не сообщает ограничений по разрешению или длине видео.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This repository provides the checkpoint EffectErase.ckpt for EffectErase.

Abstract

Video object removal aims to eliminate dynamic target objects and their visual effects, such as deformation, shadows, and reflections, while restoring seamless backgrounds. Recent diffusion-based video inpainting and object removal methods can remove the objects but often struggle to erase these effects and to synthesize coherent backgrounds. Beyond method limitations, progress is further hampered by the lack of a comprehensive dataset that systematically captures common object effects across varied environments for training and evaluation. To address this, we introduce VOR (Video Object Removal), a large-scale dataset that provides diverse paired videos, each consisting of one video where the target object is present with its effects and a counterpart where the object and effects are absent, with corresponding object masks. VOR contains 60k high-quality video pairs from captured and synthetic sources, covers five effects types, and spans a wide range of object categories as well as complex, dynamic multi-object scenes. Building on VOR, we propose EffectErase, an effect-aware video object removal method that treats video object insertion as the inverse auxiliary task within a reciprocal learning scheme. The model includes task-aware region guidance that focuses learning on affected areas and enables flexible task switching. Then, an insertion–removal consistency objective that encourages complementary behaviors and shared localization of effect regions and structural cues. Trained on VOR, EffectErase achieves superior performance in extensive experiments, delivering high-quality video object effect erasing across diverse scenarios.

Quick Start

  1. Setup repository and environment

    git clone git@github.com:FudanCVL/EffectErase.git
    cd EffectErase
    pip install -e .
    
  2. Download weights

    hf download alibaba-pai/Wan2.1-Fun-1.3B-InP --local-dir Wan-AI/Wan2.1-Fun-1.3B-InP
    hf download FudanCVL/EffectErase EffectErase.ckpt --local-dir ./
    
  3. Run the script

    bash script/test_remove.sh
    

    You can edit script/test_remove.sh and change these three paths to use your own data:

    • --fg_bg_path
    • --mask_path
    • --output_path

    --mask_path is a mask video generated by SAM2.1 (sam2.1_hiera_b+), aligned with --fg_bg_path.

BibTeX

Please consider to cite:

@inproceedings{fu2026effecterase,
  title={EffectErase: Joint Video Object Removal and Insertion for High-Quality Effect Erasing},
  author={Fu, Yang and Zheng, Yike and Dai, Ziyun and Ding, Henghui},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)},
  year={2026}
}

Contact

If you have any questions, please feel free to reach me out at aleeyanger@gmail.com.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · diffusers

Нельзя запустить

Модели «видео → видео» пока не запускаются.

Ревизия весов
95c9d45

0 моделей