/ Модель

Характеристики

Лицензия
CC BY-NC 4.0
Архитектура
yue2_vae · dense
Библиотека
transformers
Опубликована
9 сен 2026

YuE2-Vae-legacy

ЭмбеддингиТекст → embedding3 профессии

YuE2-Vae-legacy кодирует аудио в акустические латенты и декодирует их в стереомузыку 48 кГц, в том числе для генерации песен вместе с YuE2-3B.

1 357скачиваний за 30 дней10лайковвеса обновлены29 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

YuE2-Vae-legacy — аудиовариационный автоэнкодер YuE2, разработанный командой m-a-p. Он декодирует акустические латенты в стереомузыку с частотой 48 кГц и может отдельно кодировать аудио в латентное представление. Для генерации полноформатных песен его используют вместе с YuE2-3B; сам по себе он подходит для кодирования аудио и декодирования сохранённых латентов.

Модель реализована как YuE2VAE и доступна в формате Safetensors для загрузки через Transformers. Для входа при кодировании нужны стереоданные с частотой 48 кГц. README рекомендует FP32; для декодирования больших последовательностей предусмотрен режим с разделением на фрагменты, ограничивающий расход памяти.

По приведённым в карточке тестам, декодирование песни длительностью около 3,6 минуты занимает примерно 3,5 секунды на RTX 4090. В сравнении с YuE2-Vae у legacy-варианта выше оценки музыкальности в бенчмарках, тогда как стандартный YuE2-Vae обеспечивает лучшее воспринимаемое качество звука. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Сценарии применения

  • декодирование акустических латентов в стереомузыку
  • кодирование стереоаудио 48 кГц в латентное представление
  • генерация полноформатных песен в составе системы YuE2-3B
  • воспроизведение результатов бенчмарков YuE2

Ограничения

Для кодирования требуются стереоданные с частотой 48 кГц; README рекомендует выполнять модель в FP32. Коммерческое использование ограничено лицензией CC BY-NC 4.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

YuE2-Vae-legacy turns acoustic latents into 48 kHz stereo music. It is the decoder used for YuE2's reported benchmarks, with full-song decoding, an audio encoder, and Hugging Face loading.

Use it with 🤗 YuE2-3B for full-song generation, or load it on its own to encode and decode audio. 🤗 Alternative decoder: YuE2-Vae.

🎧 Listen to YuE2

🎶 Text-to-music

An original song generated from lyrics and a style prompt.

Cyber Metal · English · 5:00

This listening preview uses 🤗 YuE2-Vae.

YuE2 song quality and text alignment on WildSongBench

Complete YuE2 system results on 192 WildSongBench prompts, using symbolic planning. Bo8 means best-of-8.

September 12, 2026 comparison: 17 settings, including Suno v6 and Suno v6 Wild. Vector PDF · SVG · All nine metrics and protocols · Full-precision CSV.

YuE2 architecture and audio decoder

The VAE turns YuE2's acoustic latents into stereo audio.

🚀 Quick start

For full-song generation, follow the YuE2-3B quick start and select vae="m-a-p/YuE2-Vae-legacy" in YuE2Pipeline.from_pretrained(...).

🔊 Decode saved acoustic latents

Install the tested standalone dependencies:

python -m pip install torch==2.10.0 transformers==4.57.6 huggingface-hub==0.36.2 safetensors==0.7.0 numpy==2.2.6 soundfile==0.13.1

Use latent.npy saved by song.save_artifacts("outputs/song"):

import numpy as np
import soundfile as sf
import torch
from transformers import AutoModel

# Tested FP32 CUDA settings; YuE2Pipeline sets these automatically.
torch.backends.cudnn.deterministic = True
torch.backends.cudnn.benchmark = False
torch.backends.cudnn.allow_tf32 = torch.backends.cuda.matmul.allow_tf32 = False
torch.set_float32_matmul_precision("highest")

repo = "m-a-p/YuE2-Vae-legacy"
vae = AutoModel.from_pretrained(
    repo, trust_remote_code=True, decoder_only=True, device="cuda",
)
z = torch.from_numpy(np.load("outputs/song/latent.npy"))  # [T, 64]
audio = vae.decode_tiled(z.T.unsqueeze(0))                # [1, 2, samples], CPU
sf.write("decoded.flac", audio[0].T.clamp(-1, 1).numpy(), 48000, subtype="PCM_24")

decode_tiled bounds memory with 1024-frame cores and 16-frame context. vae.decode(z.T.unsqueeze(0)) offers full decoding; both preserve the natural output length 1920 × T − 64. Keep the VAE in FP32.

🎙️ Encode a short audio clip

encoder = AutoModel.from_pretrained(repo, trust_remote_code=True, device="cpu")
z = encoder.encode(audio[..., :48000])  # First second of the decoded audio

Encoding accepts [batch, 2, samples] audio already at 48 kHz and returns the posterior mean by default. Set sample=True, generator=... for posterior sampling.

⚡ Speed and resources

About 3.5 seconds to decode a 3.6-minute song on an RTX 4090. Each checkpoint is 530.5 MB; decoder-only FP32 weights occupy 253.2 MiB, before activations.

GPUDecoderWarm samplesVAE stage / audio duration
RTX 4090 24GBYuE2-Vae323.63 / 214.85 s
RTX 4090 24GBYuE2-Vae-legacy323.47 / 214.85 s
H800 80GBYuE2-Vae13.04 / 224.96 s

PyTorch 2.10, FP32, tiled decoding; timings include device transfers. 4090 values average 32 full-CoT songs; H800 is a one-song check. Full-pipeline 4090 peaks were 11.18 GiB with YuE2-Vae and 11.19 GiB with legacy; standalone decoder peak memory was not isolated.

Full-song speed and GPU requirements · WildSongBench and SHS100K results. System benchmark scores use YuE2-Vae-legacy; YuE2-Vae is the default listening decoder.

In our comparisons, 🤗 YuE2-Vae-legacy achieves higher musicality scores on benchmarks, while 🤗 YuE2-Vae delivers better perceptual audio quality. We recommend YuE2-Vae by default; use YuE2-Vae-legacy when reproducing the paper's benchmark results.

📚 Citation

Please cite the YuE2 paper when using YuE2-Vae-legacy in your research:

@article{yuan2026yue2,
  title = {{YuE2}: Unifying Symbolic and Audio Music Generation at Frontier Quality},
  author = {Yuan, Ruibin and Pan, Jiahao and Jiang, Junyan and Wu, Zhiyue and Zhou, Ziya and Sun, Jiankai and Li, Yizhi and Zhang, Ge and Gu, Yicheng and Tian, Zeyue and Dai, Junyu and Lin, Hanfeng and Li, Kai and Wu, Shangda and Liu, Xuanjie and Wang, Jiaming and Liu, Zihan and Wang, Yue and Ma, Yinghao and Yin, Hanzhi and Chen, Kangrui and Zhang, Xinyue and Ma, Ziyang and Liao, Mengqi and Zhao, Hejia and Huang, Guowei and Yan, Chao and Ke, Lei and Yu, Jianwei and Liu, Bei and Guo, Joe and Xue, Liumeng and Xia, Gus and Xue, Wei and Guo, Yike},
  journal = {arXiv preprint arXiv:2609.33757},
  year = {2026},
  eprint = {2609.33757},
  archivePrefix = {arXiv},
  primaryClass = {eess.AS},
  url = {https://arxiv.org/abs/2609.33757}
}

For the original YuE model, please cite:

@article{yuan2025yue,
  title = {{YuE}: Scaling Open Foundation Models for Long-Form Music Generation},
  author = {Yuan, Ruibin and Lin, Hanfeng and Guo, Shuyue and Zhang, Ge and Pan, Jiahao and Zang, Yongyi and Liu, Haohe and Liang, Yiming and Ma, Wenye and Du, Xingjian and Du, Xinrun and Ye, Zhen and Zheng, Tianyu and Jiang, Zhengxuan and Ma, Yinghao and Liu, Minghao and Tian, Zeyue and Zhou, Ziya and Xue, Liumeng and Qu, Xingwei and Li, Yizhi and Wu, Shangda and Shen, Tianhao and Ma, Ziyang and Zhan, Jun and Wang, Chunhui and Wang, Yatian and Chi, Xiaowei and Zhang, Xinyue and Yang, Zhenzhu and Wang, Xiangzhou and Liu, Shansong and Mei, Lingrui and Li, Peng and Wang, Junjie and Yu, Jianwei and Pang, Guojian and Li, Xu and Wang, Zihao and Zhou, Xiaohuan and Yu, Lijun and Benetos, Emmanouil and Chen, Yong and Lin, Chenghua and Chen, Xie and Xia, Gus and Zhang, Zhaoxiang and Zhang, Chao and Chen, Wenhu and Zhou, Xinyu and Qiu, Xipeng and Dannenberg, Roger and Liu, Jiaheng and Yang, Jian and Huang, Wenhao and Xue, Wei and Tan, Xu and Guo, Yike},
  journal = {arXiv preprint arXiv:2503.08638},
  year = {2025},
  eprint = {2503.08638},
  archivePrefix = {arXiv},
  url = {https://arxiv.org/abs/2503.08638}
}

Weights: CC BY-NC 4.0. Third-party code licenses.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
YuE2VAE
Ревизия весов
d0585a9

0 моделей