/ Модель

Характеристики

Библиотека
align3r
Опубликована
8 дек 2024

Align3R_DepthPro_ViTLarge_BaseDecoder_512_dpt

Языковая модель3 профессии

Align3R оценивает согласованную во времени глубину, динамическую 3D-геометрию и позы камеры по монокулярному видео.

45скачиваний за 30 дней6лайковвеса обновлены8 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Align3R — модель для оценки глубины по монокулярному видео, разработанная Jiahao Lu, Tianyu Huang и соавторами и описанная в работе 2024 года. Она предназначена для восстановления временно согласованной глубины, динамических облаков точек и поз камеры из последовательности кадров одного видео. В карточке указана архитектура AsymmetricCroCo3DStereo; модель загружается через библиотеку Align3R и распространяется в формате safetensors.

Модель подходит для анализа движения и геометрии сцены по видео, а также для задач реконструкции и визуализации 3D-сцен. Она принимает видео и предсказывает глубину, облака точек и параметры камеры. README не сообщает размер модели, длину контекста, поддерживаемые языки или лицензию, поэтому эти характеристики не приводятся.

Сценарии применения

  • оценка глубины в динамических видеосценах
  • восстановление облака точек из монокулярного видео
  • оценка движения камеры по видеопоследовательности

Ограничения

README не описывает метрики качества и ограничения применения. Лицензия и требования к вычислительным ресурсам в предоставленных данных не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

     

Align3R: Aligned Monocular Depth Estimation for Dynamic Videos Jiahao Lu*, Tianyu Huang*, Peng Li, Zhiyang Dou, Cheng Lin, Zhiming Cui, Zhen Dong, Sai-Kit Yeung, Wenping Wang, Yuan Liu Arxiv, 2024.

Align3R estimates temporally consistent video depth, dynamic point clouds, and camera poses from monocular videos.

@article{lu2024align3r,
  title={Align3R: Aligned Monocular Depth Estimation for Dynamic Videos},Jiahao Lu, Tianyu Huang, Peng Li, Zhiyang Dou, Cheng Lin, Zhiming Cui, Zhen Dong, Sai-Kit Yeung, Wenping Wang, Yuan Liu
  author={Lu, Jiahao and Huang, Tianyu and Li, Peng and Dou, Zhiyang and Lin, Cheng and Cui, Zhiming and Dong, Zhen and Yeung, Sai-Kit and Wang, Wenping and Liu,Yuan},
  journal={arXiv preprint arXiv:2412.03079},
  year={2024}
}

How to use

First, install Align3R. To load the model:

from dust3r.model import AsymmetricCroCo3DStereo
import torch
model = AsymmetricCroCo3DStereo.from_pretrained("cyun9286/Align3R_DepthPro_ViTLarge_BaseDecoder_512_dpt")
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · align3r

Нельзя запустить

3D-генерация пока не поддерживается.

Ревизия весов
2c15370

0 моделей