/ Модель

Характеристики

Лицензия
MIT
Опубликована
10 июн 2024

Real3D

Языковая модель3 профессии

Real3D преобразует изображение объекта в 3D-представление, используя архитектуру TripoSR и обучение на синтетических и реальных изображениях.

24скачиваний за 30 дней20лайковвеса обновлены14 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Real3D — модель Hanwen Jiang для построения 3D-представления объекта по изображению. Она использует архитектуру TripoSR — Transformer для отображения 2D-изображений в 3D, основанный на LRM, — и дообучается на реальных изображениях с помощью самонастройки без разметки и автоматического отбора данных.

Модель объединяет синтетические данные Objaverse, включая рендеры Zero-1-to-3 и GObjaverse, с изображениями из ImageNet, OpenImages и других коллекций реальных снимков. Это предназначено для реконструкции 3D-объектов по изображениям из более широкого распределения сцен и объектов. Репозиторий содержит веса в формате PyTorch; лицензия — MIT.

Real3D принимает изображение и выдаёт 3D-результат. В карточке не описаны ограничения по разрешению входа, качество реконструкции или конкретные требования к среде запуска. Авторы также просят не использовать модель для создания оскорбительных или причиняющих distress 3D-объектов либо для распространения стереотипов.

Сценарии применения

  • создание 3D-модели объекта по фотографии
  • реконструкция 3D-объектов по изображениям из интернета
  • преобразование изображений объектов в 3D для прототипирования
  • получение 3D-представлений объектов из коллекций изображений

Ограничения

В карточке не приведены количественные оценки качества, ограничения входных изображений или требования к запуску. Авторы просят не применять модель для создания оскорбительных 3D-объектов и распространения стереотипов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Real3D

Model Details:

Model Description:

We use the model architecture provided by TripoSR, which is a Transformer model for 2D-to-3D mapping built on LRM.

We scale it further on in-the-wild image collections by enabling unsupervised self-training and automatric data curation.

  • Developed by: Hanwen Jiang
  • License: MIT
  • Hardware: We train Real3D on 1 node (8GPU) with equivalent batch size of 80 for 5-6 days.

Model Sources:

Training Data: Real3D is jointly trained on synthetic data (Objaverse) and in-the-wild image collections. The former prevents training divergence, the latter introduces new knowldege from a broader distribution of real images. We use Objaverse renderings from Zero-1-to-3 and GObjaverse. The in the wild images are from ImageNet, OpenImages, etc.

Misuse, Malicious Use, and Out-of-Scope Use: The model should not be used to intentionally create or disseminate 3D models that people would foreseeably find disturbing, distressing, or offensive; or content that propagates historical or current stereotypes.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

3D-генерация пока не поддерживается.

Ревизия весов
a992dbb

0 моделей