/ Модель

Характеристики

Библиотека
pytorch
Опубликована
17 сен 2026

GAE-D64-1B

Видео из изображенияИзображение, текст → видео

GAE-D64-1B — временная DiT-модель для генерации геометрически согласованного видео по изображению с условием камеры.

0скачиваний за 30 дней26лайковвеса обновлены24 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

GAE-D64-1B — модель TencentARC из проекта GAE: Learning a Geometry-Native Latent Space for 3D-Consistent World Generation. Это примерно миллиарднопараметрический временной DiT с глубиной [28, 6] и размерностями скрытых слоёв [768, 2048], работающий с 64-канальным геометрически ориентированным латентным представлением. Модель предназначена для генерации видео по исходному изображению с учётом геометрии сцены и параметров камеры; заявленное разрешение — 672×378, длина последовательности — 81 кадр.

Для текстового условия используется Qwen3-0.6B, а для визуальных признаков — замороженный DA3-GIANT-1.1 с DPT head. Модель принимает одно опорное изображение и метрическое Plücker-условие камеры; инференс image-to-video выполняется за 50 шагов Euler с CFG 2. В репозитории есть компоненты для инференса: кодек, статистики латентного пространства и признаков DA3, а также flow transformer. Лицензия в предоставленных данных не указана.

Сценарии применения

  • создание видео продолжения по одному изображению
  • генерация последовательности кадров с управлением камерой
  • создание геометрически согласованных сцен для 3D-миров
  • анимация статичного изображения с сохранением структуры сцены

Ограничения

Заявлена генерация при разрешении 672×378 и длине 81 кадр; для image-to-video описан режим с одним опорным изображением, 50 шагами Euler и CFG 2. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

GAE-D64-1B

This repository contains the GAE-D64-1B model presented in GAE: Learning a Geometry-Native Latent Space for 3D-Consistent World Generation.

Weights for GAE-64: a ~1B-parameter temporal DiT (hidden_size=[768, 2048], depth=[28, 6]) over a 64-channel geometry-native latent, at 672×378 and V=81, with metric Plücker camera conditioning and Qwen3-0.6B text.

This repo is self-contained for GAE-64 inference: codec, per-channel latent statistics, DA3 feature-level stats, and the flow transformer. The frozen DA3-GIANT encoder / DPT head comes from depth-anything/DA3-GIANT-1.1.

From the GAE code repository:

scripts/run_demo.sh

Or, after the files are in ckpts/:

python scripts/generate.py \
    --image examples/scenes/forest_lake_trail.jpg \
    --prompt-file examples/scenes/forest_lake_trail.txt \
    --flow-ckpt ckpts/flow_gae64.pt \
    --codec-ckpt ckpts/gae_64.pt \
    --output results/forest

Image-to-video uses 50 Euler steps and CFG 2 with one reference view.

Layout:

  • codec/ — safetensors + config.json
  • gae_64.pt — drop-in checkpoint for gae.load_codec
  • latent_stats_gae_64.pt — per-channel latent mean/std
  • da3_stats_giant_5ds.tar — DA3 feature-level normalization stats
  • transformer/ — flow safetensors + config.json
  • flow_gae64.pt — drop-in checkpoint for gae.load_flow

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch

Нельзя запустить

Модели «картинка → видео» пока не запускаются.

Ревизия весов
128c613

0 моделей