/ Модель

Характеристики

Библиотека
dust3r
Опубликована
24 июн 2024

DUSt3R_ViTLarge_BaseDecoder_512_dpt

Языковая модель3 профессии

Модель DUSt3R на базе ViT-L и ViT-B восстанавливает трёхмерную геометрию сцены по изображениям.

28 220скачиваний за 30 дней17лайковвеса обновлены12 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DUSt3R_ViTLarge_BaseDecoder_512_dpt — модель компьютерного зрения из проекта DUSt3R, предназначенная для восстановления трёхмерной геометрии по изображениям. Вариант использует энкодер ViT-L, декодер ViT-B и голову DPT; в карточке приведены обучающие разрешения от 512×160 до 512×384. Модель распространяется в формате safetensors и используется через библиотеку dust3r.

Её применяют для получения 3D-представления сцены по изображениям, в том числе при работе с несколькими видами. Карточка не сообщает отдельные языковые возможности, лицензию или подробные ограничения качества, поэтому эти характеристики здесь не уточняются.

Сценарии применения

  • восстановление 3D-геометрии сцены по изображениям
  • создание 3D-представления по нескольким ракурсам
  • оценка геометрии объектов и окружения на изображениях

Ограничения

Карточка не приводит количественных оценок качества или подробных ограничений применения; указанные разрешения относятся к обучающим разрешениям.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DUSt3R: Geometric 3D Vision Made Easy

@inproceedings{dust3r_cvpr24,
      title={DUSt3R: Geometric 3D Vision Made Easy}, 
      author={Shuzhe Wang and Vincent Leroy and Yohann Cabon and Boris Chidlovskii and Jerome Revaud},
      booktitle = {CVPR},
      year = {2024}
}

@misc{dust3r_arxiv23,
      title={DUSt3R: Geometric 3D Vision Made Easy}, 
      author={Shuzhe Wang and Vincent Leroy and Yohann Cabon and Boris Chidlovskii and Jerome Revaud},
      year={2023},
      eprint={2312.14132},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2312.14132}, 
}

License

The code is distributed under the CC BY-NC-SA 4.0 License. See LICENSE for more information. For the checkpoints, make sure to agree to the license of all the public training datasets and base checkpoints we used, in addition to CC-BY-NC-SA 4.0. See section: Our Hyperparameters for details.

Model info

Gihub page: https://github.com/naver/dust3r/ Project page: https://dust3r.europe.naverlabs.com/

ModelnameTraining resolutionsHeadEncoderDecoder
DUSt3R_ViTLarge_BaseDecoder_512_dpt512x384, 512x336, 512x288, 512x256, 512x160DPTViT-LViT-B

How to use

First, install dust3r. To load the model:

from dust3r.model import AsymmetricCroCo3DStereo
import torch

model = AsymmetricCroCo3DStereo.from_pretrained("naver/DUSt3R_ViTLarge_BaseDecoder_512_dpt")

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · dust3r

Нельзя запустить

3D-генерация пока не поддерживается.

Ревизия весов
61c5744

0 моделей