/ Модель

Характеристики

Библиотека
dust3r
Опубликована
21 июн 2024

DUSt3R_ViTLarge_BaseDecoder_512_linear

Языковая модель3 профессии

DUSt3R — модель компьютерного зрения, предназначенная для восстановления геометрии 3D-сцены по изображениям.

3 219скачиваний за 30 дней0лайковвеса обновлены12 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DUSt3R_ViTLarge_BaseDecoder_512_linear — модель компьютерного зрения для восстановления геометрии 3D-сцены по изображениям. В README указаны асимметричная архитектура AsymmetricCroCo3DStereo, энкодер ViT-L, декодер ViT-B и линейная голова. Модель обучалась на изображениях с разрешениями 512×384, 512×336, 512×288, 512×256 и 512×160.

Модель предназначена для задач image-to-3d, связанных с реконструкцией пространственной структуры сцены по визуальным данным. Для работы требуется библиотека dust3r. В репозитории веса сохранены в формате safetensors. README не приводит сведения о лицензии и поддерживаемых языках; метаданные также не содержат таких данных.

Сценарии применения

  • восстановление геометрии сцены по изображениям
  • построение 3D-реконструкции по фотографиям
  • оценка пространственной структуры визуальной сцены

Ограничения

В README не описаны ограничения качества и условия лицензирования. Указанные обучающие разрешения изображений охватывают только перечисленные размеры.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DUSt3R: Geometric 3D Vision Made Easy

@inproceedings{dust3r_cvpr24,
      title={DUSt3R: Geometric 3D Vision Made Easy}, 
      author={Shuzhe Wang and Vincent Leroy and Yohann Cabon and Boris Chidlovskii and Jerome Revaud},
      booktitle = {CVPR},
      year = {2024}
}

@misc{dust3r_arxiv23,
      title={DUSt3R: Geometric 3D Vision Made Easy}, 
      author={Shuzhe Wang and Vincent Leroy and Yohann Cabon and Boris Chidlovskii and Jerome Revaud},
      year={2023},
      eprint={2312.14132},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2312.14132}, 
}

License

The code is distributed under the CC BY-NC-SA 4.0 License. See LICENSE for more information. For the checkpoints, make sure to agree to the license of all the public training datasets and base checkpoints we used, in addition to CC-BY-NC-SA 4.0. See section: Our Hyperparameters for details.

Model info

Gihub page: https://github.com/naver/dust3r/ Project page: https://dust3r.europe.naverlabs.com/

ModelnameTraining resolutionsHeadEncoderDecoder
DUSt3R_ViTLarge_BaseDecoder_512_linear512x384, 512x336, 512x288, 512x256, 512x160LinearViT-LViT-B

How to use

First, install dust3r. To load the model:

from dust3r.model import AsymmetricCroCo3DStereo
import torch

model = AsymmetricCroCo3DStereo.from_pretrained("naver/DUSt3R_ViTLarge_BaseDecoder_512_linear")

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · dust3r

Нельзя запустить

3D-генерация пока не поддерживается.

Ревизия весов
2e8a5a2

0 моделей