/ Модель

Характеристики

Лицензия
Своя лицензия
Архитектура
vggt-diff · dense
Базовая модель
Wan2.1-I2V-14B-480P
Библиотека
vggtdiff
Опубликована
3 окт 2026

VGGT-Diff-NVS-192x336-100K

Видео из изображенияИзображение, текст → видео

VGGT-Diff NVS — дообученная на сценах DL3DV модель для генерации новых ракурсов по шести изображениям с известными позами и параметрам целевых камер.

40скачиваний за 30 дней1лайквеса обновлены4 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

VGGT-Diff NVS 192x336 (100K) — чекпойнт модели для синтеза новых ракурсов по нескольким исходным изображениям. Модель разработана для задачи independent-view novel-view synthesis: она принимает шесть изображений сцены с известными позами и параметры одной или нескольких целевых камер, после чего совместно генерирует целевые виды. Разрешение чекпойнта — 192 × 336; геометрию сцены модель учитывает через замороженные признаки VGGT-Omega и conditioning по камере.

Чекпойнт основан на Wan-AI/Wan2.1-I2V-14B-480P и дообучен целиком на 9 510 сценах из чистого поднабора DL3DV clean-10K в течение 100 000 эффективных шагов оптимизатора. В отчётных метриках на половинном разрешении он оказался лучшим среди указанных чекпойнтов; PSNR близок к плато, а SSIM и LPIPS продолжали улучшаться. Авторы предупреждают, что качество ещё не достигло полной стабилизации. Лицензия указана как other, поэтому условия использования следует уточнять по материалам репозитория.

Сценарии применения

  • генерация новых ракурсов сцены по нескольким фотографиям
  • создание целевых видов для заданных положений камер
  • реконструкция набора видов для визуализации сцены
  • подготовка данных для многовидовой визуализации и экспериментов с NVS

Ограничения

Модель работает на разрешении 192 × 336 и рассчитана на вход из шести изображений с известными позами и целевых камер. Авторы отмечают, что качество чекпойнта ещё не полностью стабилизировалось; лицензия указана как other.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

VGGT-Diff NVS 192x336 (100K)

This is the half-resolution independent-view scaling checkpoint trained on the DL3DV clean-10K split (9,510 available scenes) for 100,000 effective optimizer steps. It takes six posed source images and jointly predicts one or more target views.

Configuration

  • Resolution: 192 x 336
  • Task: independent-view novel-view synthesis
  • Input: six posed source views and one or more target cameras
  • VAE: source and target views are encoded independently
  • Geometry: frozen VGGT-Omega features with camera conditioning
  • Training data: DL3DV clean-10K (9,510 available scenes)
  • Training: full-model fine-tuning
  • Release checkpoint: 100K effective training steps

This release extends the original 18K fixed-compute setting to 100K steps. Although individual checkpoints can fluctuate, the long-term evaluation trend remains favorable and the 100K checkpoint is best across the reported half-resolution image metrics. PSNR is approaching a plateau, while SSIM and LPIPS continue to improve, so this release should not be interpreted as a fully saturated endpoint.

Usage

Use the nvs architecture mode:

python scripts/infer.py \
  --training-mode nvs \
  --checkpoint /path/to/vggt-diff.safetensors \
  --omega-checkpoint /path/to/vggt_omega_1b_512.pt \
  --height 192 --width 336

VGGT-Omega weights and Wan2.1 base-model files are separate dependencies and are not redistributed in this repository.

Links

License

Released under the non-commercial VGGT-Diff Research License. Third-party models and datasets remain subject to their own terms.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · vggtdiff

Нельзя запустить

Модели «картинка → видео» пока не запускаются.

Ревизия весов
112827e

0 моделей