/ Модель

Характеристики

Лицензия
MIT
Библиотека
diffusers
Опубликована
15 окт 2025

e2e-qwenimage-vae

Преобразование изображенийИзображение, текст → изображение3 профессии

Сквозным образом дообученный VAE для кодирования и декодирования изображений в конвейерах обучения моделей генерации изображений по тексту.

158скачиваний за 30 дней14лайковвеса обновлены22 окт 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

REPA-E/e2e-qwenimage-vae — VAE для Qwen-Image, разработанный командой REPA-E. Это сквозным образом дообученный автоэнкодер для систем генерации изображений по тексту: он кодирует изображения в латентное представление и декодирует его обратно, чтобы использовать в обучении латентных диффузионных моделей. В README сообщается, что веса оптимизировали 80 эпох на ImageNet-256 с batch size 256 и что модель показала лучшие результаты, чем исходный Qwen-Image-VAE, в нескольких бенчмарках генерации изображений.

Модель совместима с библиотекой Diffusers и поставляется в формате safetensors. Для её использования нужны `diffusers` и класс `AutoencoderKLQwenImage`; в карточке указана лицензия MIT. Она предназначена как компонент генеративного конвейера и сама по себе не является полной моделью преобразования изображения по текстовому запросу.

Сценарии применения

  • кодирование изображений в латентное пространство для обучения диффузионной модели
  • декодирование латентных представлений в изображения
  • замена исходного Qwen-Image-VAE в совместимом конвейере Diffusers
  • ускорение сходимости при обучении латентной модели генерации изображений

Ограничения

Это компонент VAE, а не самостоятельная модель text-to-image: для генерации требуется совместимый диффузионный конвейер. В README приводятся результаты бенчмарков без подробных численных оценок.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🚀 Overall

⚡️ Quickstart

from diffusers import AutoencoderKLQwenImage

vae = AutoencoderKLQwenImage.from_pretrained("REPA-E/e2e-qwenimage-vae").to("cuda")

Use vae.encode(...) / vae.decode(...) in your pipeline. (A full example is provided below.)

🧩 End-to-End Trained VAE Releases

ModelHugging Face Link
E2E-FLUX-VAE🤗 REPA-E/e2e-flux-vae
E2E-SD-3.5-VAE🤗 REPA-E/e2e-sd3.5-vae
E2E-Qwen-Image-VAE🤗 REPA-E/e2e-qwenimage-vae

📦 Requirements

The following packages are required to load and run the REPA-E VAEs with the diffusers library:

pip install diffusers>=0.35.0
pip install torch>=2.5.0

🚀 Example Usage

Below is a minimal example showing how to load and use the REPA-E end-to-end trained Qwen-Image-VAE with diffusers:

from io import BytesIO
import requests

from diffusers import AutoencoderKLQwenImage
import numpy as np
import torch
from PIL import Image


response = requests.get("https://raw.githubusercontent.com/End2End-Diffusion/fuse-dit/main/assets/example.png")
device = "cuda"

image = torch.from_numpy(
    np.array(
        Image.open(BytesIO(response.content))
    )
).permute(2, 0, 1).unsqueeze(0).to(torch.float32) / 127.5 - 1
image = image.to(device)

vae = AutoencoderKLQwenImage.from_pretrained("REPA-E/e2e-qwenimage-vae").to(device)

# QwenImage VAE expects an additional dimension for `num_frames`
image_ = image.unsqueeze(2)

with torch.no_grad():
    latents = vae.encode(image_).latent_dist.sample()
    reconstructed = vae.decode(latents).sample

# Squeeze the extra frame dimension
latents = latents.squeeze(2)
reconstructed = reconstructed.squeeze(2)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · diffusers

Нельзя запустить

Модели «картинка → картинка» пока не запускаются.

Ревизия весов
9cb4c88

0 моделей