/ Модель

Характеристики

Лицензия
MIT
Библиотека
pytorch
Опубликована
13 июл 2026

MoCapAnythingV2-weights

Классификация и разметка

MoCapAnything V2 извлекает вращения суставов для скелетов произвольных видов из монокулярного видео с эталонной позой.

0скачиваний за 30 дней3лайкавеса обновлены4 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MoCapAnything V2 — это опубликованный чекпойнт сквозной системы захвата движения, разработанной авторами проекта MoCapAnything. Модель обрабатывает монокулярное видео вместе с однокадровой эталонной позой целевого вида и предсказывает вращения суставов, пригодные для экспорта в BVH. В README указано, что аналитическая обратная кинематика в этом процессе не используется.

В репозитории размещён файл весов PyTorch размером около 464 МБ. Во время работы система автоматически загружает RMBG-1.4 для удаления фона и DINOv2-Large как видеокодировщик. Модель предназначена для захвата и переноса движений произвольных скелетов, в том числе животных, в анимационные сцены. Лицензия — MIT; для запуска с настройками рендеринга Blender README отсылает к RUN.md.

Сценарии применения

  • захват движения человека или животного по монокулярному видео
  • получение вращений суставов для скелета целевого вида
  • подготовка анимации скелета в формате BVH
  • перенос движения на скелеты разных видов

Ограничения

Для работы системе нужны монокулярное видео и однокадровая эталонная поза целевого вида; для запуска также используются внешние RMBG-1.4 и DINOv2-Large.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MoCapAnything V2 — Pretrained Weights

End-to-End Motion Capture for Arbitrary Skeletons.

This repo hosts the released end-to-end video2pose2rot checkpoint: a single network that maps a monocular video (plus a one-frame reference pose of the target species) directly to BVH-ready joint rotations — no analytical IK in the loop.

Files

FileDescription
video2pos2rot_epoch60.ptEnd-to-end video → pose → rotation model (≈464 MB)

The background remover (briaai/RMBG-1.4) and the video encoder (facebook/dinov2-large) are pulled automatically from their own HuggingFace repos at runtime — they are not re-hosted here.

Usage

git clone https://github.com/phongdaot/MocapAnything.git && cd MocapAnything
pip install torch torchvision numpy opencv-python pillow matplotlib scipy scikit-image \
    trimesh roma pyyaml tqdm huggingface_hub transformers gradio imageio-ffmpeg

hf download kehong/MoCapAnythingV2-weights --local-dir ./checkpoints
hf download kehong/MoCapAnythingV2-data-sample --repo-type dataset --local-dir ./demo/data

# command-line inference on the bundled examples
python inference/video2pose2rot.py --config demo/configs/demo_wild.yaml
# or the interactive Gradio demo
python demo/app.py

See the repo's RUN.md for the Blender render setup and full options.

Citation

@article{gong2026mocapanythingv2,
  title   = {MoCapAnything V2: End-to-End Motion Capture for Arbitrary Skeletons},
  author  = {Gong, Kehong and Wen, Zhengyu and Phong, Dao Thien and
             Xu, Mingxi and He, Weixia and Wang, Qi and Zhang, Ning and
             Li, Zhengyu and Hou, Guanli and Lian, Dongze and He, Xiaoyu and
             Zhang, Mingyuan and Zhang, Hanwang},
  journal = {arXiv preprint arXiv:2604.28130},
  year    = {2026}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch · keypoint-detection

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
4b8c28e

0 моделей