/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
MiniMax-H3
Библиотека
sglang
Опубликована
4 сен 2026

minimax-h3-turbo-ref2va-merged

Видео по тексту и кадрамИзображение, текст → видео

Объединённый трансформер MiniMax H3 Ref2VA с ускоряющей LightX2V LoRA для генерации видео со звуком по референсам в режиме 8 шагов при 768p.

0скачиваний за 30 дней0лайковвеса обновлены4 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это объединённый трансформер для режима MiniMax H3 Ref2VA, подготовленный NaukNauk на основе MiniMaxAI/MiniMax-H3 и ускоряющей LoRA LightX2V. Он предназначен для генерации видео со звуком по референсным изображениям и аудио с использованием текстового условия; целевой режим — инференс с 8 вычислениями денойзера при разрешении 768p.

В репозитории находятся только веса трансформера в формате safetensors и BF16. Для работы их нужно собрать с неизменёнными процессором, токенизатором, текстовым энкодером и визуальным и аудио VAE из закреплённой версии раздела Ref2VA базовой модели MiniMax H3. Веса не являются самостоятельным адаптером или чекпойнтом Diffusers. Лицензия указана как other; README не уточняет её условия.

Сценарии применения

  • генерация видео со звуком по референсному изображению и аудио
  • ускоренный инференс MiniMax H3 Ref2VA за 8 шагов денойзера
  • создание коротких аудиовизуальных роликов с разрешением 768p

Ограничения

Репозиторий содержит только трансформер и требует совместимых компонентов из закреплённой версии MiniMax H3 Ref2VA; это не самостоятельный чекпойнт. Настройки рассчитаны на 8 шагов и разрешение 768p, а точные условия лицензии в карточке не раскрыты.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MiniMax H3 Ref2VA + LightX2V 8-step 768p (merged transformer)

This repository contains the premerged Ref2VA transformer only for native MiniMax H3 reference-to-audio-video generation. It combines the official MiniMax H3 Ref2VA BF16 transformer with LightX2V's minimax_h3_ref2v_turbo_8step_v1.0_768p_bf16.safetensors LoRA.

It must be assembled with the unchanged processor, tokenizer, text encoder, visual VAE, and audio VAE from the pinned MiniMaxAI/MiniMax-H3 Ref2VA partition. It is intended for 8-denoiser-evaluation, 768p ref2va inference. This is not a standalone LoRA and is not the Diffusers-format checkpoint.

Provenance

ItemValue
Base modelMiniMaxAI/MiniMax-H3, native Ref2VA checkpoint
Base revision42ed227ee7df40d41602854ae760620d6eb651fe
LoRA sourcelightx2v/Minimax-h3-Turbo
LoRA fileminimax_h3_ref2v_turbo_8step_v1.0_768p_bf16.safetensors
LoRA SHA-2569bac880b1a5d7ac052171cf6cce769f0cceaaa42ffa51de4b8e41143a2bdd2d2
LoRA rank / alpha128 / 8
Effective merge scale8 / 128 = 0.0625
Merged native tensors208 targets from 624 LoRA tensors
Weight precisionBF16

The adapter was converted from the Diffusers key layout to the native MiniMax H3 layout during the merge. Split Q/K/V deltas were interleaved into native per-head fused QKV tensors, and the Diffusers SwiGLU value/gate order was converted back to the native gate/value order. The machine-readable merge manifest is included as nauknauk_ref2va_merge.json.

The LoRA release and recommended 8-step 768p settings are documented in LightX2V discussion #51.

Assemble and deploy with SGLang

Download the pinned base partition, then overlay this repository's transformer:

hf download MiniMaxAI/MiniMax-H3 \
  --revision 42ed227ee7df40d41602854ae760620d6eb651fe \
  --include "model_index.json" "Ref2VA/*" \
  --local-dir MiniMax-H3

hf download NaukNauk/minimax-h3-turbo-ref2va-merged \
  --local-dir MiniMax-H3/Ref2VA

The checkpoint was validated with SGLang 0.5.17 on 30 reference-video cases at native 768p using four H100 80GB GPUs, tensor parallelism 4, Ulysses degree 1, and no CPU offload. All 30 cases completed, including inputs with six reference images.

CUDA_VISIBLE_DEVICES=0,1,2,3 sglang serve \
  --model-type diffusion \
  --backend sglang \
  --model-path MiniMax-H3 \
  --pipeline-class-name MiniMaxH3Pipeline \
  --model-variant ref2va \
  --num-gpus 4 \
  --tp-size 4 \
  --ulysses-degree 1 \
  --performance-mode speed \
  --use-fsdp-inference false \
  --text-encoder-cpu-offload false \
  --vae-cpu-offload false \
  --dit-cpu-offload false \
  --encoder-parallel auto \
  --enable-torch-compile false \
  --host 0.0.0.0 \
  --port 30010

Recommended generation settings:

  • num_inference_steps: 9 in native SGLang, which includes the terminal zero and therefore executes 8 denoiser evaluations
  • video flow_shift: 12
  • audio flow_shift: 3
  • output short edge: 768 pixels
  • frame rate: 24 FPS

The exact request schema depends on the SGLang release; consult the current SGLang MiniMax H3 API documentation.

License and use

The merged checkpoint remains subject to the MiniMax H3 Community License Agreement. The LightX2V repository is published under Apache-2.0. Users are responsible for complying with both upstream terms and applicable laws.

This repository is a convenience artifact prepared by NaukNauk. It is not an official MiniMax or LightX2V release. Repository ID: NaukNauk/minimax-h3-turbo-ref2va-merged.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sglang

Нельзя запустить

Задача «image-text-to-video» пока не поддерживается рантаймом.

Ревизия весов
958412e

0 моделей