/ Модель

Характеристики

Лицензия
CC BY-NC-SA 4.0
Библиотека
dust3r
Опубликована
18 окт 2024

MonST3R_PO-TA-S-W_ViTLarge_BaseDecoder_512_dpt

Языковая модель3 профессии

MonST3R восстанавливает геометрию и трёхмерную структуру сцен по изображениям и видео с движущимися объектами.

2 732скачиваний за 30 дней22лайкавеса обновлены30 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MonST3R — модель Junyi Zhang и соавторов для оценки геометрии сцены при наличии движения. Она предназначена для восстановления трёхмерной структуры по изображениям и видео, в том числе при движении объектов и камеры. Модель построена на архитектуре AsymmetricCroCo3DStereo и использует библиотеку dust3r; файлы весов представлены в формате safetensors.

Модель подходит для задач оценки геометрии и построения 3D-представления динамичных сцен. Карточка ссылается на исследовательскую работу 2024 года. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и не допускает коммерческое использование.

Сценарии применения

  • оценка геометрии динамичной сцены
  • восстановление 3D-структуры по кадрам видео
  • анализ сцен с движущимися объектами
  • построение трёхмерного представления по изображениям

Ограничения

Лицензия CC BY-NC-SA 4.0 запрещает коммерческое использование. README не приводит количественных оценок качества или явных ограничений применимости.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MonST3R: A Simple Approach for Estimating Geometry in the Presence of Motion

@article{zhang2024monst3r,
  author    = {Zhang, Junyi and Herrmann, Charles and Hur, Junhwa and Jampani, Varun and Darrell, Trevor and Cole, Forrester and Sun, Deqing and Yang, Ming-Hsuan},
  title     = {MonST3R: A Simple Approach for Estimating Geometry in the Presence of Motion},
  journal   = {arXiv preprint arxiv:2410.03825},
  year      = {2024}
}

Model info

How to use

First, install monst3r. To load the model:

from dust3r.model import AsymmetricCroCo3DStereo
import torch

model = AsymmetricCroCo3DStereo.from_pretrained("Junyi42/MonST3R_PO-TA-S-W_ViTLarge_BaseDecoder_512_dpt")

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · dust3r

Нельзя запустить

3D-генерация пока не поддерживается.

Ревизия весов
1ea2a9e

0 моделей