/ Модель

Характеристики

Лицензия
MIT
Библиотека
pytorch
Опубликована
8 окт 2026

MOTIF

Классификация видеоВидео → label

MOTIF сравнивает тестовое видео с эталонными видео конкретного человека, чтобы выявлять дипфейки без переобучения модели для этого человека.

0скачиваний за 30 дней0лайковвеса обновлены8 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MOTIF — модель для выявления дипфейков с учётом конкретного человека, разработанная Джованни Аффатато, Сарой Манделли, Паоло Бестагини и Стефано Тубаро. Работа принята на IEEE WIFS 2026. Модель формирует профиль человека по подлинным эталонным видео, а затем оценивает, насколько тестовое видео согласуется с этим профилем, без переобучения для каждого человека.

Система включает два независимо обученных временных трансформера: один анализирует глобальные коэффициенты 3D-модели лица, другой — движение рта, восстановленное и центрированное во времени. Видео обрабатывается окнами по 75 кадров с перекрытием 50%; итоговая оценка усредняет оценки двух ветвей после персональной нормализации и калибровки. Модели обучены только на подлинных видео, без поддельных видео и данных для обучения профиля конкретного человека. Репозиторий содержит веса для инференса и статистику нормализации, но не код обучения и не обучающие данные. Для запуска требуются NVIDIA GPU и Python 3.10 или новее. Лицензия репозитория — MIT; сторонние веса анализа лиц имеют отдельные лицензии и происхождение.

Сценарии применения

  • проверка видео на дипфейк для заранее зарегистрированного человека
  • оценка подлинности видео по нескольким эталонным роликам
  • сопоставление движений лица и рта в видео с профилем человека

Ограничения

Модель рассчитана на проверку человека, для которого доступны подлинные эталонные видео, и требует NVIDIA GPU. Она обучена только на реальных видео; сторонние веса анализа лиц распространяются на отдельных условиях.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MOTIF — Person-of-Interest Deepfake Detection

Inference assets for MOTIF: Person-of-Interest Deepfake Detection Beyond 3DMM Coefficients, accepted at IEEE WIFS 2026.

Paper: arXiv:2610.09830
Authors: Giovanni Affatato, Sara Mandelli, Paolo Bestagini, Stefano Tubaro.
Code: polimi-ispl/MOTIF

MOTIF enrolls a person from genuine reference videos and scores a query video without retraining. Two independently trained temporal transformers process global 3D morphable-model coefficients and temporally centered reconstructed mouth motion in 75-frame windows with 50% overlap. Per-person whitening and leave-one-reference-video-out calibration produce branch scores; their arithmetic mean is the final authenticity score. Higher scores indicate greater consistency with the enrolled person.

The models were trained on real videos only, without manipulated videos or person-of-interest-specific training data. This repository contains inference checkpoints and normalization statistics, not training code or data.

Usage

Requires an NVIDIA GPU and Python 3.10 or newer.

python -m pip install git+https://github.com/polimi-ispl/MOTIF
motif extract-reference --reference ref1.mp4 ref2.mp4 ref3.mp4 -o person.npz
motif score --reference-set person.npz --test query.mp4

The first run downloads these files automatically. Ten independent genuine reference videos match the paper protocol; at least two usable references and enough valid windows are required for leave-one-out calibration.

Files

FilePurposeSHA-256
motif_global.pthGlobal temporal transformerfd93ba656c7d2ad71481659b9cab723343a285d55174eeb277c15dc27312b99e
motif_mouth.pthMouth temporal transformere900ab14013072a0da2164d47b44e1635e56ec4a69682a7951a138b84203fa5a
norm_stats_all.npzGlobal normalization statistics7e3796edd3c452a98eab2b0e069903c70eb15b2488423053a7d1aed1f0e211d9
norm_stats_mvrecon.npzMouth reconstruction statistics and projection bases7b506ff093ff48bb467e8c1c567f216a7e9e4c91da41be1e0e3802d9ee148c7c

Third-party weights

Face-analysis assets (retinaface_resnet50_2020-07-20_old_torch.pth, large_base_net.pth, and net_recon.pth) are downloaded directly from the upstream 3DDFA-V3 Hub repository. They are not mirrored here and retain their respective licenses and provenance (RetinaFace, HRN, and 3DDFA-V3).

License

The MOTIF checkpoints and normalization assets are released under the MIT license. Third-party assets retain their own terms. This model license is separate from the paper's license.

Citation

@inproceedings{affatato2026motif,
  title = {{MOTIF}: Person-of-Interest Deepfake Detection Beyond {3DMM} Coefficients},
  author = {Affatato, Giovanni and Mandelli, Sara and Bestagini, Paolo and Tubaro, Stefano},
  booktitle = {2026 IEEE International Workshop on Information Forensics and Security (WIFS)},
  year = {2026},
  eprint = {2610.09830},
  archivePrefix = {arXiv},
  primaryClass = {cs.CV},
  url = {https://arxiv.org/abs/2610.09830}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch · video-classification

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
f475fed

0 моделей