/ Модель

Характеристики

Размер весов
1,9 ГБ
Лицензия
Своя лицензия
Опубликована
4 апр 2024

viXTTS

Синтез речиТекст → аудио3 профессии

viXTTS синтезирует речь на 18 языках, позволяя клонировать голос по короткому аудиофрагменту.

821скачиваний за 30 дней100лайковвеса обновлены7 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

viXTTS — модель синтеза речи и клонирования голоса, разработанная Capleaf на основе XTTS-v2.0.3. Она позволяет создавать речь выбранным голосом по короткому аудиофрагменту длительностью около шести секунд. Модель продолжили обучать на наборе данных viVoice, расширив токенизатор для поддержки вьетнамского языка.

Модель поддерживает 18 языков, включая вьетнамский, английский, русский, китайский и японский. Она предназначена для многоязычной генерации речи с сохранением характеристик голоса из образца. Указанная лицензия — other; README не приводит дополнительных условий лицензирования.

Совместимость с исходной библиотекой TTS ограничена. Для вьетнамского языка короткие фразы менее десяти слов могут давать нестабильный результат и посторонние звуки в конце. Качество для языков, отличных от вьетнамского, не проверялось.

Сценарии применения

  • клонирование голоса по шестисекундной записи
  • синтез речи на вьетнамском языке
  • многоязычная озвучка текстов голосом из аудиообразца

Ограничения

Совместимость с исходной библиотекой TTS ограничена; для вьетнамских фраз короче десяти слов возможны нестабильная генерация и посторонние звуки. Качество на языках, кроме вьетнамского, не проверялось.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

viⓍTTS

viⓍTTS là mô hình tạo sinh giọng nói cho phép bạn sao chép giọng nói sang các ngôn ngữ khác nhau chỉ bằng cách sử dụng một đoạn âm thanh nhanh dài 6 giây. Mô hình này được tiếp tục đào tạo từ mô hình XTTS-v2.0.3 bằng cách mở rộng tokenizer sang tiếng Việt và huấn luyện trên tập dữ liệu viVoice.

viⓍTTS is a voice generation model that lets you clone voices into different languages by using just a quick 6-second audio clip. This model is fine-tuned from the XTTS-v2.0.3 model by expanding the tokenizer to Vietnamese and fine-tuning on the viVoice dataset.

Languages

viXTTS supports 18 languages: English (en), Spanish (es), French (fr), German (de), Italian (it), Portuguese (pt), Polish (pl), Turkish (tr), Russian (ru), Dutch (nl), Czech (cs), Arabic (ar), Chinese (zh-cn), Japanese (ja), Hungarian (hu), Korean (ko) Hindi (hi), Vietnamese (vi).

Known Limitations

  • Incompatibility with the original TTS library (a pull request will be made later).
  • Subpar performance for input sentences under 10 words in Vietnamese language (yielding inconsistent output and odd trailing sounds).
  • This model is only fine-tuned in Vietnamese. The model's effectiveness with languages other than Vietnamese hasn't been tested, potentially reducing quality.

Demo

Please checkout this repo

Usage

For a quick usage, please checkout this notebook

License

This model is licensed under Coqui Public Model License.

Contact

Fine-tuned by Thinh Le at FPT University HCMC, as a component of Non La's graduation thesis. Contact:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов
c06f437

0 моделей