/ Модель

Характеристики

Базовая модель
InternVideo2_5_Chat_8B
Опубликована
30 сен 2026

VideoFace-X-LLM-ViT-only-3406

Компьютерное зрениеВидео, текст → текст

Дообученная на видео с лицами мультимодальная модель для описания внешности, действий и эмоций, а также анализа дипфейков и движений лица.

0скачиваний за 30 дней0лайковвеса обновлены30 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

VideoFace-X-LLM ViT-only — чекпойнт модели OpenGVLab InternVideo2.5-Chat-8B, дообученный автором репозитория на корпусе ExplainFace: описания Gemini для видеороликов CelebV-HQ. В обучении обновлялись визуальный энкодер и коннектор mlp1, а языковая модель оставалась замороженной; чекпойнт соответствует завершению одной эпохи из 3406 шагов.

Модель предназначена для понимания лиц на видео и выдачи ответов по ролику, включая описание внешности и действий, анализ эмоций во времени, распознавание дипфейков и оценку действий единиц лица. README приводит результаты на независимой тестовой выборке CelebV-HQ и метрики по нескольким задачам, однако качество заметно различается между ними. Репозиторий содержит полный чекпойнт safetensors и требует загрузки с trust_remote_code=True. Лицензия в предоставленных данных не указана.

Сценарии применения

  • описание внешности человека в видеоролике
  • распознавание действий человека по видео
  • определение эмоций и их изменений во времени
  • проверка видеозаписи на дипфейк
  • оценка движений единиц лица на кадрах

Ограничения

В приведённых тестах показатели различаются по задачам; точность обнаружения дипфейков составляет 50% на указанной выборке FaceForensics++. Для загрузки требуется trust_remote_code=True.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

VideoFace-X-LLM — ViT-only fine-tune (step 3406 of 3406)

InternVideo2.5-Chat-8B fine-tuned on the ExplainFace corpus (Gemini descriptions of CelebV-HQ videos) for the ACCV 2026 paper "When, Where, and Why: Hierarchical Causal Explainability for Video Face Understanding with MLLMs". This is the "Ours (ViT-Only)" row of the results table.

Training

  • Trainable: vision encoder (lr 1e-5) + connector mlp1 (lr 4e-5); language model frozen.
  • 1 epoch = 3,406 steps over the 27,304-clip identity-independent training split (Aak579/CelebV-HQ-identity-split20), micro-batch 1, global batch 8, AdamW, weight decay 0.01, 3 % linear warm-up then cosine decay, gradient clip 1.0, 8–32 frames per clip, seed 42, FSDP full sharding (xtuner unify_internvl2_train_r16.py). Full args: train_run_config.json.
  • This checkpoint is the end of the epoch.

Test results (6,923-clip identity-independent test split)

Appearance mA / F1macAction mA / F1macEmotion video Acc / F1macEmotion temporal Acc / F1macDeepfake (FF++) Acc / F1macAU (DISFA) mA / frame F1 / clip F1
86.16 / 26.2994.50 / 17.8855.61 / 22.0071.47 / 23.8350.00 / 35.2371.0 / 16.7 / 16.8

Loading

The folder is a full HF checkpoint (trust_remote_code=True; the modeling_*.py / conversation.py files are copied from the base snapshot). For the JSON tasks the model was decoded with the training-style prompt prefix and a { prefill, as in the paper's inference scripts.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Доступ к модели ограничен автором; у платформы нет доступа к весам.

Ревизия весов
a3bcb82

0 моделей