/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
MiniMax-H3
Библиотека
comfyui
Опубликована
4 авг 2026

MiniMax-H3-DynTime-sQKV

Видео по тексту и кадрамИзображение, текст → видео

Экспериментальные INT8-конверсии MiniMax-H3 для генерации аудио и видео в рабочих схемах ComfyUI FL2VA и Ref2VA.

0скачиваний за 30 дней7лайковвеса обновлены4 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DmitryDB выпустил экспериментальные общественные INT8-конверсии MiniMax-H3 для генерации аудио и видео в ComfyUI. Представлены варианты FL2VA, создающий аудио и видео по тексту и первому и последнему кадрам, и Ref2VA, использующий изображения, видео и аудио в качестве ориентиров. Сохранены все 50 блоков трансформера и исходный FP32-путь обработки времени; проекции Q, K и V хранятся отдельно. Доступны профили INT8 ConvRot и INT8 ConvRot HQ с разным соотношением INT8 и BF16 весов.

Для загрузки и корректного выполнения необходим патч ядра ComfyUI из репозитория и соответствующие рабочие схемы. Указанные классы видеопамяти — ориентир, а фактические требования зависят от разрешения, числа кадров и настроек рабочего процесса. Структурные проверки пройдены, но сравнительная оценка качества сгенерированного видео не заявлена. Это производная от MiniMaxAI/MiniMax-H3 модель; лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке репозитория.

Сценарии применения

  • генерация аудио и видео по тексту и заданным первому и последнему кадрам
  • создание аудио и видео с использованием референсных изображений, видео и аудио
  • запуск генерации видео MiniMax-H3 в ComfyUI с INT8-профилем

Ограничения

Для корректной работы требуется патч ядра ComfyUI и подходящая схема; в стандартной версии ComfyUI эти контрольные точки не выполняются корректно. Полная оценка качества сгенерированного видео не заявлена, а фактическое потребление видеопамяти зависит от настроек рабочего процесса.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MiniMax-H3 DynTime sQKV Quants

Experimental: a ComfyUI core patch is required. These FL2VA and Ref2VA checkpoints retain the original FP32 runtime time MLP and physically separate Q, K, and V projections. They do not execute correctly in stock ComfyUI.

Community mixed-precision INT8 conversions of MiniMaxAI/MiniMax-H3. All 50 transformer blocks are retained. The repository is separate from the stock-compatible quants so patch-required files cannot be confused with ordinary ComfyUI checkpoints.

These are community derivatives, not official MiniMax or ComfyOrg releases.

Naming

  • FL2VA is text/first-frame/last-frame-to-audio-video generation.
  • Ref2VA is reference-image/video/audio-to-audio-video generation.
  • DT-sQKV means dynamic-time conditioning with physically separate Q, K, and V projections.
  • A filename without DT-sQKV belongs to the stock-compatible repository.
  • Exact INT8/BF16 inventories and GPU classes are documented here instead of being encoded in the filenames.

Choose a checkpoint

ProfileDirect downloadsFile sizeGPU class and quant layout
DT-sQKV INT8 ConvRotFL2VA · Ref2VA20.999 GiB24 GB · RTX 30/40/50. 170 INT8 + 30 BF16 main semantic matrices; 270 physical INT8 modules; BF16 token refiner. Patch required.
DT-sQKV INT8 ConvRot HQFL2VA · Ref2VA27.994 GiB32 GB+ · RTX 30/40/50. 74 INT8 + 126 BF16 main semantic matrices; 122 physical INT8 modules; BF16 token refiner. Patch required.

The 24/32 GB classes are capacity guidance, not full-workflow peak guarantees. Resolution, frame count, the text encoder, VAEs, attention backend, and offload settings also affect memory use. Moving a 21–28 GiB model across PCIe at every denoising step can make these editions impractical on 8–16 GB GPUs; use a stock-compatible W4/W8W4/NVFP4 checkpoint for those memory classes.

Required ComfyUI patch

Apply:

patches/ComfyUI-MiniMax-H3-DT-sQKV.patch

The patch changes MiniMax-H3 model detection, construction, loading, and forward execution. A loader merely accepting the checkpoint is not sufficient: the patched forward path must evaluate the original time MLP and the separate Q/K/V modules.

What DT-sQKV preserves

FeatureStock-compatible quantsThese DT-sQKV quants
Transformer blocksAll 50 retainedAll 50 retained
Attention storageFused qkv_proj = cat(Q,K,V)Physical q_proj, k_proj, v_proj tensors
Attention executionOne fused projection callThree projection calls
Original time_embedderReplaced by measured tableRetained in FP32
time_embedder.proj_inAbsentFP32 weight [5376,256], bias [5376]
time_embedder.proj_outAbsentFP32 weight [2688,5376], bias [2688]
adaln_t_tableFP32 [4097,16]Absent
adaln_curve_basisAbsentFP32 [2688,16]
adaln_curve_meanAbsentFP32 [2688]
Per-block AdaLN51 independent FP32 rank-16 projections51 independent FP32 rank-16 projections
ComfyUIStockIncluded core patch required

The original FP32 time path runs for every requested timestep:

256 -> 5,376 -> 2,688
full_t = SiLU(original_time_embedder(t))
coords = (full_t - mean) @ basis[2,688 x 16]
AdaLN_i(t) = independent_projection_i(coords)

The shared rank-16 basis removes redundant input width from the 51 large AdaLN projections. It does not replace the original time MLP and does not merge the per-block AdaLN layers. Full-time relative reconstruction error is about 3e-7; measured basis orthogonality residual is below 6e-7.

Separate Q/K/V layout

The original Diffusers checkpoints contain separate to_q, to_k, and to_v tensors. These files retain that layout through loading and execution:

  • 50 main transformer attention blocks;
  • 2 token-refiner attention blocks;
  • 156 physical Q/K/V weights;
  • three projection calls per attention block;
  • no fused qkv_proj modules.

Released Q/K/V tensors were checked bit-for-bit against their corresponding contiguous slices in the stock-compatible fused checkpoint.

Quantization profiles

Both profiles use ConvRot/Hadamard group size 256, deterministic scale search, and per-row FP32 scales for INT8 weights. Norms, patch projections, output heads, the time MLP, rank-16 basis, and all AdaLN projections retain source precision.

ProfileMain semantic matricesPhysical INT8 modulesToken refinerTime/AdaLN path
DT-sQKV-INT8-ConvRot170 INT8 + 30 BF16270BF16Original FP32 time MLP, basis, mean, and 51 FP32 AdaLN projections
DT-sQKV-INT8-ConvRot-HQ74 INT8 + 126 BF16122BF16Original FP32 time MLP, basis, mean, and 51 FP32 AdaLN projections

The standard profile keeps 30 high-risk main matrices in BF16. The HQ profile keeps every attention-output projection and every MLP fc2 projection in BF16, together with the 26 highest-error QKV groups. All 50 HQ fc1 projections remain INT8.

Validation

Every checkpoint passed:

  1. exact key, shape, dtype, and quantization-inventory validation;
  2. bitwise Q/K/V split verification;
  3. dynamic-time reconstruction comparison;
  4. complete CPU load through patched ComfyUI as MiniMaxH3Model;
  5. remote LFS byte-size and SHA-256 verification.

Reports under reports/ retain their historical internal profile names so the validation provenance remains intact. Tests used clean ComfyUI commit 14b05228 plus the included patch. Future ComfyUI revisions may require the same small core changes to be forward-ported.

No full prompt-to-decoded-video perceptual A/B score is claimed. The 32 GB profile was structurally validated but is not claimed to remain fully resident on a 24 GB GPU.

Installation

  1. Use a ComfyUI revision compatible with the included patch.
  2. Apply patches/ComfyUI-MiniMax-H3-DT-sQKV.patch and restart ComfyUI.
  3. Place one selected checkpoint in ComfyUI/models/diffusion_models/.
  4. Use the matching FL2VA or Ref2VA workflow.

A complete workflow also requires the MiniMax-H3 Qwen3-VL text encoder and the video/audio VAEs from the stock-compatible repository. They are not duplicated here.

License and attribution

Use is subject to the included MiniMax-H3 community license. The base model is by MiniMax. ComfyUI and its quantization runtimes are separate upstream projects. This community conversion is not endorsed by MiniMax or ComfyOrg.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · comfyui

Нельзя запустить

Задача «image-text-to-video» пока не поддерживается рантаймом.

Ревизия весов
b660b69

0 моделей