/ Модель

Характеристики

Лицензия
Своя лицензия
Архитектура
vggt-diff · dense
Базовая модель
Wan2.1-I2V-14B-480P
Библиотека
vggtdiff
Опубликована
4 окт 2026

VGGT-Diff-NVS-480x832

Видео из изображенияИзображение, текст → видео

Чекпойнт VGGT-Diff на базе Wan2.1 для синтеза новых ракурсов сцены по шести изображениям с позами и целевым камерам.

55скачиваний за 30 дней1лайквеса обновлены4 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

VGGT-Diff NVS 480x832 — чекпойнт для синтеза новых ракурсов сцены по нескольким исходным изображениям. Он разработан авторами VGGT-Diff для контролируемого сравнения методов синтеза novel view: модель принимает шесть изображений с известными позами и целевые камеры, а генерирует виды с разрешением 480 × 832. Для обработки геометрии используются замороженные признаки VGGT-Omega с кондиционированием по камере; представление исходных и целевых видов кодируется независимо. Чекпойнт дообучен на базе Wan-AI/Wan2.1-I2V-14B-480P.

Обучение проводилось на 980 доступных сценах DL3DV clean-1K: сначала 147 эпох при 192 × 336, затем 60 эпох при полном разрешении. Карточка отмечает, что этот вариант отражает фиксированный бюджет сравнения, а кривая обучения при полном разрешении ещё не достигла явного плато, поэтому дальнейшее обучение может улучшить результат. Для запуска отдельно требуются веса VGGT-Omega и файлы базовой модели Wan2.1, которые в репозитории не распространяются. Лицензия указана как other; конкретные условия следует проверять в карточке репозитория.

Сценарии применения

  • синтез новых ракурсов по нескольким фотографиям сцены
  • генерация целевых видов сцены с заданными параметрами камеры
  • сравнение методов синтеза novel view в контролируемой постановке

Ограничения

Чекпойнт обучен в рамках фиксированного бюджета сравнения, а обучение на полном разрешении, согласно карточке, не достигло явного плато. Для инференса отдельно нужны веса VGGT-Omega и файлы Wan2.1; условия лицензии «other» требуют проверки в репозитории.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

VGGT-Diff NVS 480x832

This is the full-resolution independent-view checkpoint used for VGGT-Diff's quantitative comparison with other novel-view synthesis baselines. It is the paper's controlled clean-1K setting, with 980 available training scenes.

Configuration

  • Resolution: 480 x 832
  • Task: independent-view novel-view synthesis
  • Input: six posed source views and target cameras
  • VAE: source and target views are encoded independently
  • Geometry: frozen VGGT-Omega features with camera conditioning
  • Training data: DL3DV clean-1K (980 available scenes)
  • Training schedule: 147 epochs at 192 x 336 (approximately 18K optimizer steps), followed by 60 epochs at 480 x 832
  • Full-resolution continuation: 7,380 optimizer steps
  • Intended use: the full-resolution NVS setting used for baseline comparison

For a controlled comparison, the paper follows the data scale and optimization budget of the FrameCrafter setting. The released checkpoint reflects that fixed comparison budget rather than a fully saturated endpoint. The full-resolution training curve did not show a clear convergence plateau, so continued optimization is expected to improve performance further.

The paper's 6-to-1 evaluation used 50 diffusion steps and target-only early Omega CFG with scale 2.0.

Usage

python scripts/infer.py \
  --training-mode nvs \
  --checkpoint /path/to/vggt-diff.safetensors \
  --omega-checkpoint /path/to/vggt_omega_1b_512.pt \
  --height 480 --width 832

VGGT-Omega weights and Wan2.1 base-model files are separate dependencies and are not redistributed in this repository.

Links

License

Released under the non-commercial VGGT-Diff Research License. Third-party models and datasets remain subject to their own terms.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · vggtdiff

Нельзя запустить

Модели «картинка → видео» пока не запускаются.

Ревизия весов
89bead0

0 моделей