/ Модель

Характеристики

Опубликована
15 июн 2025

ZipVoice

Синтез речиТекст → аудио

ZipVoice — семейство быстрых нерегрессионных моделей для синтеза речи из текста с поддержкой генерации речи одним диктором и разговорных реплик.

0скачиваний за 30 дней62лайкавеса обновлены10 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ZipVoice — набор чекпойнтов для быстрой генерации речи из текста, разработанный k2-fsa. В репозитории представлены ZipVoice для генерации речи одним диктором, ZipVoice-Dialog для создания разговорной речи и варианты, обученные на наборах данных Emilia и LibriTTS. В README модель описана как нерегрессионная система синтеза речи с нулевым переносом голоса и Flow Matching; метаданные указывают задачу text-to-speech, языки английский и китайский, а также форматы ONNX и safetensors.

Модели предназначены для синтеза речи по тексту, в том числе для генерации реплик диалога. Вариант ZipVoice-Distill получен дистилляцией ZipVoice. Чекпойнт zipvoice_distill инициализирован из zipvoice/model.pt; для остальных вариантов README не называет базовую модель. Лицензия и ограничения на использование в предоставленных сведениях не описаны.

Сценарии применения

  • генерация речи по тексту одним диктором
  • синтез реплик для озвучивания диалогов
  • создание речи с переносом голоса по примеру
  • эксперименты с синтезом речи на английском и китайском языках

Ограничения

В предоставленных сведениях не указаны лицензия, длина контекста или оценки качества по языкам. Возможности переноса голоса и качество конкретных чекпойнтов могут различаться.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ZipVoice⚡: Fast and High-Quality Zero-Shot Text-to-Speech with Flow Matching

This model consists of checkpoints for two fast and high-quality non-autoregressive zero-shot text-to-speech models:

  • ZipVoice, for single-speaker speech generation. Details in paper and demo.

  • ZipVoice-Dialog, for spoken dialogue generation. Details in paper and demo.

See our Github repository ZipVoice for instructions on using our models.

1. Explanation of each directory

DirectoryModel TypeTraining DataInitialized from
zipvoiceZipVoiceEmilia-
zipvoice_librittsZipVoiceLibriTTS-
zipvoice_distillZipVoice-DistillEmiliazipvoice/model.pt
zipvoice_distill_librittsZipVoice-DistillLibriTTSzipvoice_libritts/model.pt
zipvoice_dialogZipVoice-DialogOpenDialog + in-house datasetzipvoice/model.pt
zipvoice_dialog_opendialogZipVoice-DialogOpenDialogzipvoice/model.pt
zipvoice_dialog_stereoZipVoice-Dialog-Stereoin-house datasetzipvoice_dialog/model.pt

2. Discussion & Communication

You can directly discuss on Github Issues.

You can also scan the QR code to join our wechat group or follow our wechat official account.

Wechat GroupWechat Official Account
wechatwechat

3. Citation

@article{zhu2025zipvoice,
      title={ZipVoice: Fast and High-Quality Zero-Shot Text-to-Speech with Flow Matching},
      author={Zhu, Han and Kang, Wei and Yao, Zengwei and Guo, Liyong and Kuang, Fangjun and Li, Zhaoqing and Zhuang, Weiji and Lin, Long and Povey, Daniel},
      journal={arXiv preprint arXiv:2506.13053},
      year={2025}
}

@article{zhu2025zipvoicedialog,
      title={ZipVoice-Dialog: Non-Autoregressive Spoken Dialogue Generation with Flow Matching},
      author={Zhu, Han and Kang, Wei and Guo, Liyong and Yao, Zengwei and Kuang, Fangjun and Zhuang, Weiji and Li, Zhaoqing and Han, Zhifeng and Zhang, Dong and Zhang, Xin and Song, Xingchen and Lin, Long and Povey, Daniel},
      journal={arXiv preprint arXiv:2507.09318},
      year={2025}
}

4. License

Our code is released under the Apache 2.0 License. The pre-trained model is licensed under the CC-BY-NC due to constraints from its training data (Emilia).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
889dd60

0 моделей