/ Модель

Характеристики

Библиотека
fmpose3d
Опубликована
12 фев 2026

FMPose3D

Языковая модель

FMPose3D восстанавливает 3D-позу человека или четвероногого животного по одному изображению с помощью flow matching.

0скачиваний за 30 дней8лайковвеса обновлены15 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FMPose3D — модель Ti Wang, Xiaohang Yu и Mackenzie Weygandt Mathis для восстановления 3D-позы человека или четвероногого животного по одному изображению. Она переводит 2D-ключевые точки в 3D и использует flow matching с ODE-сэмплированием для генерации нескольких правдоподобных гипотез позы за несколько шагов; затем модуль RPEA агрегирует их с учётом перепроекции.

В репозитории представлены веса для скелета человека H36M с 17 суставами, обученные на Human3.6M, и для скелета животных Animal3D с 26 суставами, обученные на Animal3D. Модель предназначена для оценки 3D-поз на изображениях; заявлены результаты уровня state of the art на тестах для людей и животных. Для работы авторы предлагают Python-пакет fmpose3d. В метаданных указана лицензия?

Сценарии применения

  • оценка 3D-позы человека по одиночному изображению
  • восстановление положения суставов человека для анализа движений
  • оценка 3D-позы четвероногого животного по изображению
  • генерация нескольких гипотез 3D-позы для неоднозначного ракурса

Ограничения

Модель восстанавливает позу по одиночному изображению, поэтому результат зависит от видимости ключевых точек и неоднозначности ракурса. В карточке не приведены сведения о лицензии.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

FMPose3D: Monocular 3D Pose Estimation via Flow Matching

Official model weights for FMPose3D: monocular 3D pose estimation via flow matching by Ti Wang, Xiaohang Yu, and Mackenzie Weygandt Mathis.

| Paper | Project Page | GitHub | PyPI |

Overview

FMPose3D lifts 2D keypoints from a single image into 3D poses using flow matching — a generative technique based on ODE sampling. It generates multiple plausible 3D pose hypotheses in just a few steps, then aggregates them using a reprojection-based Bayesian module (RPEA) for accurate predictions, achieving state-of-the-art results on human and animal 3D pose benchmarks.

Available Checkpoints

FilenameSkeletonJointsTraining DataDescription
fmpose3d_humans.pthH36M17Human3.6MHuman 3D pose estimation
fmpose3d_animals.pthAnimal3D26Animal3DQuadruped animal 3D pose estimation

Quick Start

pip install fmpose3d

Weights are downloaded automatically when using the Python API:

from fmpose3d import FMPose3DInference

# Human — weights auto-downloaded on first use
result = FMPose3DInference().predict("photo.jpg")

# Animal
result = FMPose3DInference.for_animals().predict("dog.jpg")

For the full API reference, see the GitHub repository.

Manual Download

from huggingface_hub import hf_hub_download

path = hf_hub_download(repo_id="DeepLabCut/FMPose3D", filename="fmpose3d_humans.pth")
# or
path = hf_hub_download(repo_id="DeepLabCut/FMPose3D", filename="fmpose3d_animals.pth")

api = FMPose3DInference(model_weights_path=path)

Citation

@misc{wang2026fmpose3dmonocular3dpose,
      title={FMPose3D: monocular 3D pose estimation via flow matching}, 
      author={Ti Wang and Xiaohang Yu and Mackenzie Weygandt Mathis},
      year={2026},
      eprint={2602.05755},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2602.05755}, 
}

License

Model weights are for non-commerical use. Please contact the EPFL TTO for future information. We thank the Swiss National Science Foundation (SNSF Project # 320030-227871) and the Kavli Foundation for financial support.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fmpose3d

Нельзя запустить

3D-генерация пока не поддерживается.

Ревизия весов
ce1caea

0 моделей