/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
LTX-2.3-Diffusers
Библиотека
diffusers
Опубликована
23 авг 2026

VBVR-Pro-LTX2.3

Видео из изображенияИзображение, текст → видео3 профессии

VBVR-Pro-LTX2.3 — дообученная на базе LTX-2.3 модель для генерации синхронизированных видео и аудио по изображению и текстовой инструкции.

13скачиваний за 30 дней2лайкавеса обновлены27 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

VBVR-Pro-LTX2.3 — дообученная модель генерации видео и аудио, разработанная командой VBVR-Pro на базе LTX-2.3 и предназначенная для визуального рассуждения через генерацию. Она принимает изображение и текстовую инструкцию и создаёт обусловленное изображением аудиовидео; веса LoRA ранга 32 уже объединены с весами трансформера, поэтому отдельный адаптер загружать не требуется. Модель рассчитана на исследовательские эксперименты с задачами визуального рассуждения, в частности с генерацией видео по изображению и отслеживанием меняющихся во времени состояний.

В карточке указаны Diffusers и формат safetensors, лицензия Apache-2.0. Технические характеристики базовой LTX-2.3 и результаты бенчмарков в доступном фрагменте карточки не приведены.

Сценарии применения

  • создание видео по исходному изображению и инструкции
  • генерация аудиовизуальных роликов с условием на изображение
  • эксперименты с визуальным рассуждением через генерацию видео
  • отслеживание состояний объектов во времени в сгенерированных сценах

Ограничения

Карточка не приводит численных результатов качества или конкретных ограничений генерации. Модель предназначена для исследовательских экспериментов с визуальным рассуждением.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning

Overview

Native visual reasoning, i.e., reasoning through visual generation, has recently emerged as a promising direction for studying visual intelligence beyond language. Yet progress remains bottlenecked by the lack of scalable training tasks, reliable feedback, and controlled comparisons across generative substrates. In this work, we introduce VBVR-Pro, a closed-loop testbed that makes native visual reasoning through generation trainable, verifiable, optimizable, and experimentally controllable. 1) Task scaling. VBVR-Pro turns visual reasoning into a controlled task space of 300 procedurally generated tasks. Models trained on VBVR-Pro show strong transfer beyond the proposed suite across six held-out visual reasoning benchmarks such as RISE-Video, MME-CoF-Pro, and BabyVision. Further analysis validates that these gains reflect visual reasoning rather than instruction-pattern fitting. 2) Verifiable rewards. VBVR-Pro provides verifiable reward scorers for task-grounded evaluation. Through a systematic study of leading MLLMs as judges, we identify recurring failure modes of the prevalent VLM-as-a-judge paradigm. In contrast, the proposed scorers are grounded on verifiable task-specific rules, achieve fine-grained alignment with human judgments. Importantly, they serve as reliable reward signals for large-scale multi-task reinforcement learning and demonstrate stronger post-RL performance across visual reasoning tasks. 3) Mechanism study. VBVR-Pro enables controlled modality studies across more than 30 image, video, and interleaved generators. Our analysis shows that video generation remains strongest for tasks requiring persistent spatiotemporal state tracking, while interleaved generation provides a compute-efficient alternative by externalizing intermediate visual states. Critically, ablations and probing confirm the presence of vision-native trajectories, that are a more crucial substrate than explicit linguistic chains of thought for visual reasoning. We release all data, models, scorers, and code to facilitate future research.

The models are presented in the paper VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning.

Models Zoo

Release Information

VBVR-Pro fine-tuned LTX-2.3 for instruction-based, image-conditioned audio-video generation. It was trained on the VBVR-Dataset.

This is the merged model: the rank-32 LoRA has already been fused into the LTX transformer weights. Load it directly with diffusers; no adapter needs to be loaded separately.

FormatRepository
Merged / Diffusers (this repo)VBVR-Pro-LTX2.3
DiffSynth LoRAVBVR-Pro-LTX2.3-diffsynth

In this release, we present all models presented in paper VBVR-Pro-Trained-Models, VBVR-Pro-Dataset-Video, VBVR-Pro-Dataset-Image, VBVR-Pro-Bench, VBVR-Pro-Code and VBVR-Bench-Leaderboard.

VBVR-Pro Benchmark Results

Quick Start

Method 1: Standalone Diffusers inference

1. Install Diffusers

pip install -U diffusers transformers accelerate pillow imageio imageio-ffmpeg

2. Run example.py

The included example.py loads the merged checkpoint directly with Diffusers, enables model CPU offloading, and writes synchronized audio and video to an MP4 file.

python example.py \
  --model_path Video-Reason/VBVR-Pro-LTX2.3 \
  --image input.png \
  --prompt "The machine starts and makes a quiet mechanical hum." \
  --num_frames 49 --fps 24 \
  --output output.mp4

Method 2: Unified VBVR-Pro inference

Clone Video-Reason/VBVR-Pro and create its unified inference environment:

git clone https://github.com/Video-Reason/VBVR-Pro.git
cd VBVR-Pro/
uv sync --extra cu124 # or one of [cu118|cu121|cu124|cu126|cu128|cu129]
source .venv/bin/activate

Then run the unified inference script:

python example.py \
  --model_path Video-Reason/VBVR-Pro-LTX2.3 \
  --image_paths input.png \
  --prompt "The machine starts and makes a quiet mechanical hum." \
  --num_frames 49 --fps 24 \
  --output output.mp4

Citation

@misc{xu2026vbvrproscalableverifiablesuite,
      title={VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning}, 
      author={Junxiang Xu and Ruisi Wang and Fanyi Pu and Maijunxian Wang and Ran Ji and Tongxi Zhou and Chenyang Gu and Jing Zuo and Hongcan Xiao and Yimeng Geng and Wanqi Yin and Wei Chen and Oscar Qian and Zhengan Yan and Ziqi Huang and Haiwen Diao and Liang Pan and Bo Li and Xiangyu Fan and Dezhi Luo and Fengyuan Yu and Zehong Zhao and Qingying Gao and Tinghui Zhu and Yilan Zhang and Jingqi Tong and Pinyuan Feng and Zhengze Jiang and Letian Wang and Ziyu Guo and Renrui Zhang and Jieneng Chen and Sonia Joseph and Constantin Venhoff and Saman Motamed and Mengyue Yang and Chandra Sripada and Alan Yuille and Philip Torr and Lvmin Zhang and Vikash Kumar and Daniel Khashabi and Nikolaus Kriegeskorte and Raphaël Millière and Vincent C. Müller and Anyi Rao and Quan Wang and Ziwei Liu and Dahua Lin and Lei Yang and Hokin Deng and Zhongang Cai},
      year={2026},
      eprint={2608.26105},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2608.26105}, 
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · diffusers

Нельзя запустить

Модели «картинка → видео» пока не запускаются.

Ревизия весов
aecf33b

0 моделей