/ Модель

Характеристики

Размер весов
208 МБ
Лицензия
MIT
Опубликована
29 фев 2024

MeloTTS-English-v2

Синтез речиТекст → аудио3 профессии

Англоязычная модель MeloTTS от MyShell.ai преобразует текст в речь, в том числе с синтезом в реальном времени на CPU.

673скачиваний за 30 дней28лайковвеса обновлены1 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MeloTTS-English-v2 — англоязычная модель синтеза речи из библиотеки MeloTTS, разработанной MyShell.ai. Она преобразует текст в речь и предназначена для озвучивания английских текстов; в библиотеке также есть варианты для американского, британского и индийского английского. Авторы отмечают высокое качество речи и возможность синтеза в реальном времени на CPU.

Модель распространяется в формате PyTorch по лицензии MIT. Карточка не сообщает размер модели и длину контекста. Возможности и качество именно версии English-v2 отдельно не описаны; заявленная поддержка смешанного китайского и английского относится к китайскому голосу.

Сценарии применения

  • озвучивание английского текста
  • создание голосовых реплик на американском английском
  • создание голосовых реплик на британском английском
  • озвучивание текста на индийском английском
  • синтез речи на CPU в реальном времени

Ограничения

Карточка не приводит количественных оценок качества и характеристик именно версии English-v2. Поддержка смешанного китайского и английского указана для китайского голоса, а не для этой англоязычной модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MeloTTS

MeloTTS is a high-quality multi-lingual text-to-speech library by MyShell.ai. Supported languages include:

Model cardExample
English (American)Link
English (British)Link
English (Indian)Link
English (Australian)Link
English (Default)Link
SpanishLink
FrenchLink
Chinese (mix EN)Link
JapaneseLink
KoreanLink

Some other features include:

  • The Chinese speaker supports mixed Chinese and English.
  • Fast enough for CPU real-time inference.

Usage

Without Installation

An unofficial live demo is hosted on Hugging Face Spaces.

Use it on MyShell

There are hundreds of TTS models on MyShell, much more than MeloTTS. See examples here. More can be found at the widget center of MyShell.ai.

Install and Use Locally

Follow the installation steps here before using the following snippet:

from melo.api import TTS

# Speed is adjustable
speed = 1.0

# CPU is sufficient for real-time inference.
# You can set it manually to 'cpu' or 'cuda' or 'cuda:0' or 'mps'
device = 'auto' # Will automatically use GPU if available

# English 
text = "Did you ever hear a folk tale about a giant turtle?"
model = TTS(language='EN_V2', device=device)
speaker_ids = model.hps.data.spk2id

# American accent
output_path = 'en-us.wav'
model.tts_to_file(text, speaker_ids['EN-US'], output_path, speed=speed)

# British accent
output_path = 'en-br.wav'
model.tts_to_file(text, speaker_ids['EN-BR'], output_path, speed=speed)

# Indian accent
output_path = 'en-india.wav'
model.tts_to_file(text, speaker_ids['EN_INDIA'], output_path, speed=speed)

# Australian accent
output_path = 'en-au.wav'
model.tts_to_file(text, speaker_ids['EN-AU'], output_path, speed=speed)

# Default accent
output_path = 'en-default.wav'
model.tts_to_file(text, speaker_ids['EN-Default'], output_path, speed=speed)

Join the Community

Open Source AI Grant

We are actively sponsoring open-source AI projects. The sponsorship includes GPU resources, fundings and intellectual support (collaboration with top research labs). We welcome both reseach and engineering projects, as long as the open-source community needs them. Please contact Zengyi Qin if you are interested.

Contributing

If you find this work useful, please consider contributing to the GitHub repo.

  • Many thanks to @fakerybakery for adding the Web UI and CLI part.

License

This library is under MIT License, which means it is free for both commercial and non-commercial use.

Acknowledgements

This implementation is based on TTS, VITS, VITS2 and Bert-VITS2. We appreciate their awesome work.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов
a53e350

0 моделей