/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
VoiceConversionWebUI
Опубликована
22 апр 2024

TITAN

Обработка аудиоАудио → аудио3 профессии

TITAN — дообученная на данных Expresso модель RVC v2 для преобразования голоса одного говорящего в голос другого.

74скачиваний за 30 дней74лайкавеса обновлены19 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TITAN — предварительно обученная модель преобразования голоса, опубликованная blaise-tk. Она предназначена для Retrieval-based Voice Conversion: преобразует характеристики голоса исходного говорящего в голос другого, используя обучение с подсказками по высоте тона. В карточке описана версия Titan-Medium, обученная на вариантах с частотой дискретизации 48, 40 и 32 кГц; также упоминается Titan-Large, подробности о которой пока не приведены.

Модель основана на RVC v2 и дообучена на 11,15 часа аудиоданных Expresso. В README сообщается об обучении на Applio и о проверках качества на промежуточном чекпойнте; конкретные численные оценки качества не приведены. Модель предназначена для преобразования аудио в аудио, а Apache-2.0 допускает её использование на условиях этой лицензии.

Сценарии применения

  • преобразование голоса говорящего в голос другого человека
  • конвертация вокальной записи с сохранением исходного содержания
  • эксперименты с voice conversion на аудиозаписях

Ограничения

В README подробно описана версия Titan-Medium, а сведения о Titan-Large отложены; приведённые тесты выполнялись на промежуточном чекпойнте, поэтому результаты не характеризуют окончательную версию. Указан обучающий датасет Expresso, но совместимость и качество на других голосах отдельно не подтверждены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TITAN: A Versatile, Robust, and High-Quality Pretrained Model for Retrieval-based Voice Conversion (RVC) Training

Overview

TITAN is a state-of-the-art pretrained model designed for Retrieval-based Voice Conversion (https://github.com/RVC-Project/Retrieval-based-Voice-Conversion-WebUI/) training. It offers a robust solution for transforming voice characteristics from one speaker to another, providing high-quality results with minimal training effort.

Model Details

Titan-Medium

  • Training Environment: Utilized a RTX 3060 TI on Applio v3.1.1 (https://github.com/IAHispano/Applio), employing a batch size of 8 over a span of 3 weeks.
  • Iterations (48k): 1018660 Steps and 530 Epochs
  • Iterations (40k): 1010588 Steps and 467 Epochs
  • Iterations (32k): 1001469 Steps and 463 Epochs
  • Sampling rate: 48k, 40k, 32k
  • Fine-tuning Process: RVC v2 pretrained with pitch guidance, leveraging an 11.15-hour dataset sourced from Expresso (https://arxiv.org/abs/2308.05725) also available on datasets/blaise-tk/TITAN-Medium.

Samples

Tests performed with a premature ckpt at ~700k steps doing all tests under the same conditions.

Titan-Large

  • Details forthcoming...

Collaborators

We appreciate the contributions of our collaborators who have helped in the development and refinement of TITAN.

  • Mustar
  • SimplCup
  • UnitedShoes

Beta Testers

We extend our gratitude to the beta testers who provided valuable feedback during the testing phase of TITAN.

  • SimplCup
  • Leo_Frixi
  • Light
  • SCRFilms
  • Ryanz
  • Litsa_the_dancer

Citation

Should you find TITAN beneficial for your research endeavors or projects, we kindly request citing our repository:

@article{titan,
  title={TITAN: A Versatile, Robust, and High-Quality Pretrained Model for Retrieval-based Voice Conversion (RVC) Training},
  author={Blaise},
  journal={Hugging Face},
  year={2024},
  publisher={Blaise},
  url={https://huggingface.co/blaise-tk/TITAN/}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Обработка «аудио → аудио» пока не поддерживается.

Ревизия весов
cb72bb5

0 моделей