/ Модель

Характеристики

Базовая модель
Wan2.1-T2V-1.3B
Опубликована
21 сен 2026

3D_VAE_Step2_model

Преобразование изображенийИзображение, текст → изображение

Полный чекпойнт дообученной Wan2.1-T2V-1.3B для генерации правого изображения стереопары по левому.

0скачиваний за 30 дней0лайковвеса обновлены21 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

3D VAE Step2 — полноразмерный чекпойнт этапа обучения модели генерации правого изображения по левому для стереопары. Модель основана на Wan2.1-T2V-1.3B DiT и дообучена на смешанных данных изображений и видео до 14 000 шагов. На вход подаются шумовой latent и latent левого изображения, объединённые в 32 канала; модель предназначена для генерации соответствующего правого изображения.

Репозиторий содержит PyTorch-чекпойнт с весами и состоянием оптимизатора, а также шаблон конфигурации. Для запуска нужны код проекта WangHaiyan378/3D_VAE и отдельно подготовленные официальные веса Wan, VAE и T5, а также текстовый кэш. Чекпойнт использует собственный формат проекта и не загружается напрямую через стандартный интерфейс Diffusers или Transformers. Основан на Wan-AI/Wan2.1-T2V-1.3B; сведения о лицензии в предоставленных данных отсутствуют.

Сценарии применения

  • генерация правого ракурса стереопары по левому изображению
  • создание стереоскопических пар из одиночных изображений
  • обучение следующего этапа модели восстановления глубины по стереоизображениям

Ограничения

Для запуска требуются код проекта и отдельно подготовленные веса Wan, VAE и T5 с текстовым кэшем. Чекпойнт использует собственный формат PyTorch и содержит конфигурацию с путями исходной среды, которые может потребоваться адаптировать.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

3D VAE Step2

图像与视频混合训练的左目生成右目,训练至 14,000 steps 的原始 full checkpoint。

代码与完整准备流程:WangHaiyan378/3D_VAE,发布时对应提交 77f53f5。

  • 权重文件:step_14000.pt,17,030,129,902 bytes。
  • Wan2.1-T2V-1.3B DiT,全量微调;32 通道输入由噪声 latent(16)与左目 latent(16)拼接。
  • checkpoint 包含 model、optim、step、finetune、cfg,保留完整优化器状态。
  • 配套 stage2_mix.yaml 是代码仓库的可迁移配置模板;原始训练配置保存在 checkpoint 的 cfg 中,包含原训练环境路径,使用时请按本机路径调整。
  • 本仓库只提供该阶段 checkpoint;官方 Wan/VAE/T5 权重和文本缓存需要按代码仓库说明准备。
  • 文件是项目自定义 PyTorch checkpoint,需要先安装并在代码仓库内使用;不是 Diffusers 或 Transformers 的 from_pretrained 格式。原始配置包含项目 Config 对象,项目加载器使用 weights_only=False。

下载及使用

在代码仓库根目录、安装依赖后执行:

from huggingface_hub import hf_hub_download
from pathlib import Path
import shutil

downloaded = hf_hub_download('sdfwasdf/3D_VAE_Step2_model', 'step_14000.pt')
target = Path('output/mix_1.3b_full/checkpoints/latest.pt')
target.parent.mkdir(parents=True, exist_ok=True)
shutil.copyfile(downloaded, target)

按代码仓库 README 准备官方权重与文本缓存,再运行:

python -m video.stereo_mix.infer.infer_video --config configs/stage2_mix.yaml --ckpt output/mix_1.3b_full/checkpoints/latest.pt --input left.mp4 --output right.mp4 --num-frames 81 --steps 30

本阶段从 Step1 的 step_4000.pt 初始化。可直接作为代码仓库 Stage3 深度条件训练的 model.init_from。

文件字节数与 SHA-256 见 checkpoint_info.json 和 SHA256SUMS。

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели «картинка → картинка» пока не запускаются.

Ревизия весов
67b9ee0

0 моделей