I.9Аудио и музыка
В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 835 моделейSplintir/speecht5_tts-pld-ceb-solo — модель синтеза речи на основе SpeechT5, созданная разработчиком Splintir дообучением чекпойнта Splintir/speecht5_tts-pld-ceb-v2 на записях одного говорящего, CEB_0348. Она предназначена для преобразования текста на себуанском языке в речь с голосом этого диктора. Обучение использовало 99 тренировочных и 11 оценочных клипов общей длительностью 15,5 минуты; для каждого вызова требуется 512-мерный x-vector, а файл speaker.npy содержит embedding целевого голоса. По приведённым в карточке тестам модель показала лучшую машинную разборчивость среди сравниваемых вариантов для целевого голоса CEB_0348. Проверка оценивала восстановление текста распознавателями речи, а не естественность звучания. Модель подходит как готовый голосовой вариант для себуанского, а также как основа для дальнейшего дообучения. Речь остаётся тихой и медленной: в карточке указаны RMS 0,024 и около 6,4 секунды на строку. Результаты получены на небольшом наборе тестовых фраз и не доказывают качество для других голосов или общего синтеза себуанской речи. Лицензия — MIT.
Карточка модели bezzam/VibeVoice-AcousticTokenizer на Hugging Face совпадает с карточкой microsoft/VibeVoice-AcousticTokenizer, поэтому описание составлено по ней. VibeVoice Acoustic Tokenizer — акустический токенизатор Microsoft, компонент семейства VibeVoice для работы с речевым аудио. Он преобразует аудио в непрерывные речевые представления и поддерживает обратное декодирование; токенизатор используется в системах VibeVoice для синтеза речи и распознавания речи. В README указана частота кадров 7,5 Гц, что позволяет компактно представлять длинные аудиопоследовательности. Модель предназначена для извлечения признаков из аудио и как компонент конвейеров TTS и ASR, включая генерацию выразительной многосторонней речи и обработку разговорного аудио. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — MIT. Для подключения README описывает установку из исходного кода до включения токенизатора в официальный релиз Transformers.
Карточка модели maitrix-org/Voila-chat на Hugging Face совпадает с карточкой maitrix-org/Voila-Tokenizer, поэтому описание составлено по ней. Voila-Tokenizer — аудиотокенизатор семейства Voila от Maitrix, построенный на архитектуре EnCodec и представленный в формате safetensors. Он предназначен для преобразования аудио в представление, пригодное для работы голосовых языковых моделей и обратного преобразования в аудио; в карточке Hugging Face основная задача отмечена как audio-to-audio. Проект Voila описывает применение токенизатора в единой системе голосовых задач, включая распознавание речи, синтез речи, перевод речи и голосовой диалог в реальном времени. В метаданных перечислены английский, китайский, французский, немецкий, японский и корейский языки. Для семейства Voila заявлены потоковая обработка с низкой задержкой и поддержка множества голосов; конкретные параметры и результаты для этого токенизатора отдельно не приведены. Модель распространяется по лицензии MIT.
Amami 357M Romanian — модель синтеза речи от Invergent из семейства Surogate Amami, построенная на архитектуре Magpie-TTS. Она преобразует румынский текст в речь с частотой 22,05 кГц и поддерживает три фиксированных голоса: Doina, Tudor и Radu. Модель рассчитана на озвучивание обычного текста, включая числа, даты и сокращения; аудио можно синтезировать потоково через движок surogate на CPU или GPU. В README для румынского тестового набора приведены результаты разборчивости по метрике WER, однако эта метрика не оценивает естественность и просодию. Модель поддерживает только румынский язык, не клонирует голоса; длинные входы разбиваются на предложения, а редкие иностранные имена, необычные акронимы и длинные коды могут читаться неверно. Для некоторых двухпредложных входов возможна преждевременная остановка синтеза. Лицензия — CC-BY-NC-4.0, с ограничением на коммерческое использование.
Это дообученная компанией 1Developer модель OpenAI Whisper Tiny для автоматического распознавания речи. Она обучена на наборе cali-name-dataset-short-version, а её архитектура относится к семейству Whisper и реализована классом WhisperForConditionalGeneration. Модель принимает аудио и преобразует речь в текст; карточка указывает английский язык. В репозитории представлены веса Safetensors, библиотека для работы — Transformers. Модель подходит для транскрибации английской речи и распознавания имён из обучающего набора. В README сообщаются значения WER Ortho 0,0 и WER 0,0, а также loss 0,0001 на оценочном наборе; размер и состав этого набора не раскрыты, поэтому результаты нельзя уверенно переносить на другие данные. Лицензия — Apache-2.0.
Карточка модели aoiandroid/distill-neucodec на Hugging Face совпадает с карточкой neuphonic/distill-neucodec, поэтому описание составлено по ней. Distill-NeuCodec — нейронный аудиокодек, разработанный Neuphonic. Это версия NeuCodec с совместимым дистиллированным энкодером, предназначенная для кодирования и представления аудио в задачах обработки речи и аудиосигналов. В модели медленный акустический энкодер BigCodec заменён на SQCodec: его размер сокращён с 70 млн до 36 млн параметров. Семантический энкодер w2v-bert-2.0 заменён на DistilHuBERT: с 600 млн до 21 млн параметров. В результате дистиллированный энкодер примерно в 10 раз меньше по числу параметров и требует примерно в 7,5 раза меньше MAC-операций при инференсе. Работа основана на X-Codec2.0 и SQCodec. Модель рассчитана на аудио-аудио сценарии и обучалась с использованием наборов данных для речи, включая Emilia, Multilingual LibriSpeech, VCTK, Fleurs, Common Voice 13.0 и LibriTTS-R. Репозиторий содержит веса PyTorch; для использования предлагается пакет neucodec и Python 3.10 или новее. Лицензия — Apache-2.0. Карточка не уточняет поддерживаемые языки, качество реконструкции и ограничения применения.
chrisjay/fonxlsr — модель распознавания речи на базе Wav2Vec2-Large-XLSR-53, дообученная Chris C. Emezue и Bonaventure F.P. Dossou на наборе Fon Dataset для языка фон (фɔ̀нгбè). Модель преобразует речь в текст и предназначена для транскрибирования аудиозаписей на этом языке. Модель содержит около 402,7 млн параметров и использует архитектуру Wav2Vec2ForCTC. Для входной речи требуется частота дискретизации 16 кГц. В README приведён результат оценки 14,97 % на тестовых данных Fon; метрика в карточке не уточнена. Модель распространяется по лицензии Apache-2.0.
KaniTTS — модель преобразования текста в речь, представленная пользователем nineninesix. Она использует двухэтапную архитектуру: языковая модель формирует сжатые аудиотокены, после чего нейрокодек синтезирует из них звуковую волну. В метаданных указаны архитектура LFM2, 460 млн параметров и контекст до 128 000 токенов; README сообщает размер 370 млн параметров и частоту дискретизации 22 кГц. Модель предназначена для синтеза речи в разговорных помощниках, чат-ботах, средствах доступности и языковых приложениях. Заявлена поддержка английского, немецкого, арабского, китайского, испанского и корейского языков. README описывает низкую задержку и возможность работы на доступном оборудовании, но приведённые результаты производительности относятся к RTX 5080. Модель дообучена на nineninesix/kani-tts-450m-0.2-pt. Лицензия в метаданных обозначена как other, тогда как README заявляет Apache 2.0, поэтому условия распространения и использования следует уточнять по лицензии репозитория. README также отмечает снижение качества на входах длиннее 2000 токенов, ограниченную выразительность без дополнительной настройки и возможные смещения в произношении и просодии.
mini-bart-g2p — компактная модель Cisco на архитектуре BART для преобразования английских написанных слов в фонемы с обозначениями ударения. Это последовательностная модель типа encoder-decoder с 3,2 млн параметров и контекстом до 128 токенов; для обработки использует Transformers и доступна в форматах ONNX и safetensors. Модель предназначена для преобразования одного слова за раз, в том числе слов с дефисами и апострофами. Токенизатор приводит ввод к нижнему регистру и разделяет буквы внутри модели, поэтому слова можно подавать в обычном написании. Модель обучена на данных Librispeech Alignments и CMUDict и распространяется по лицензии Apache-2.0. Модель рассчитана только на английский язык. Подача нескольких слов одной строкой приводит к неожиданным результатам, а неапострофная пунктуация может нарушить преобразование; перед обработкой рекомендуется удалять лишние знаки препинания.
Карточка модели jonschneider/mini-bart-g2p на Hugging Face совпадает с карточкой cisco-ai/mini-bart-g2p, поэтому описание составлено по ней. mini-bart-g2p — компактная модель Cisco на архитектуре BART для преобразования английских написанных слов в фонемы с обозначениями ударения. Это последовательностная модель типа encoder-decoder с 3,2 млн параметров и контекстом до 128 токенов; для обработки использует Transformers и доступна в форматах ONNX и safetensors. Модель предназначена для преобразования одного слова за раз, в том числе слов с дефисами и апострофами. Токенизатор приводит ввод к нижнему регистру и разделяет буквы внутри модели, поэтому слова можно подавать в обычном написании. Модель обучена на данных Librispeech Alignments и CMUDict и распространяется по лицензии Apache-2.0. Модель рассчитана только на английский язык. Подача нескольких слов одной строкой приводит к неожиданным результатам, а неапострофная пунктуация может нарушить преобразование; перед обработкой рекомендуется удалять лишние знаки препинания.
facebook/mms-tts-abp — модель синтеза речи на языке айта-абеллен (код abp), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиозапись и подходит для озвучивания фраз и создания речевого вывода на этом языке. Модель использует архитектуру VITS: текстовый энкодер на основе Transformer, вероятностный модуль длительности и декодер для генерации аудиоволны. Чекпойнт содержит около 3,5 млн параметров, распространяется в форматах PyTorch и Safetensors и доступен через Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Из-за стохастического предсказателя длительности генерация недетерминирована: для повторения того же результата требуется фиксированный seed. Качество синтеза может зависеть от соответствия входного текста языку и письменным нормам айта-абеллен.
facebook/mms-tts-acd — модель синтеза речи на языке Gikyode (код acd), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на Gikyode. Модель использует архитектуру VITS: текстовый энкодер на основе Transformer, вероятностный модуль длительности и декодер речи. Чекпойнт содержит 3,5 млн параметров и доступен в форматах PyTorch и Safetensors; для работы с ним подходит библиотека Transformers версии 4.33 и новее. Каждый язык MMS-TTS обслуживается отдельным чекпойнтом. Модель рассчитана на синтез речи на одном языке, поэтому её нельзя считать универсальной многоязычной TTS-моделью. Из-за стохастического предсказания длительности результат может меняться между запусками; для воспроизводимого аудио нужен фиксированный seed. Лицензия CC BY-NC 4.0 ограничивает использование некоммерческими целями и требует атрибуции.
facebook/mms-tts-adj — модель синтеза речи на языке адиукру (Adioukrou, adj), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Это отдельный чекпойнт для одного языка из семейства MMS-TTS, предназначенный для преобразования входного текста в речевую аудиоволну. Модель использует архитектуру VITS: условный вариационный автоэнкодер с текстовым энкодером на основе Transformer, flow-модулем, стохастическим предсказателем длительности и декодером на основе HiFi-GAN. Чекпойнт содержит 3,5 млн параметров; для работы доступен через Transformers версии 4.33 и новее. Генерация недетерминирована, поэтому для повторения результата требуется фиксированное случайное зерно. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование. Модель рассчитана на адиукру; качество синтеза для других языков README не заявляет.
facebook/mms-tts-aka — модель синтеза речи на языке акан (aka), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст на акан в речевую аудиоволну и подходит для озвучивания текстов и создания голосовых сообщений на этом языке. Для каждого языка проекта обучается отдельный чекпойнт. Модель основана на архитектуре VITS — сквозном вариационном автоэнкодере с Transformer-энкодером текста, нормализующими потоками, декодером в стиле HiFi-GAN и стохастическим предсказателем длительности. Размер — 3,5 млн параметров; доступны веса PyTorch и Safetensors. Из-за стохастического предсказания длительности результат может меняться между запусками; фиксированный seed позволяет воспроизвести ту же аудиоволну. Для использования требуется Transformers версии 4.33 или новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
facebook/mms-tts-bav — модель синтеза речи на языке Vengo (bav), разработанная Facebook в рамках проекта Massively Multilingual Speech (MMS). Это отдельный языковой чекпойнт семейства VITS: он принимает текст и генерирует речевую аудиоволну. Размер модели — 3,5 млн параметров; доступны веса PyTorch и Safetensors для использования через Transformers версии 4.33 и новее. Архитектура VITS объединяет текстовый энкодер, потоковый модуль, стохастический предиктор длительности и HiFi-GAN-подобный декодер, что позволяет синтезировать речь с различным ритмом. Генерация недетерминирована, поэтому для воспроизводимого результата требуется фиксированное случайное зерно. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-btd — модель синтеза речи на языке Batak Dairi из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания текста на этом языке. Модель построена на архитектуре VITS: это сквозная система с вариационным автоэнкодером, flow-модулем и декодером, подобным HiFi-GAN; стохастический предиктор длительности позволяет варьировать ритм речи. Размер — 3,5 млн параметров. Модель доступна в Transformers версии 4.33 и новее, веса представлены в форматах PyTorch и Safetensors. Генерация недетерминирована, поэтому для повторяемого результата требуется фиксированное начальное значение генератора. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование.
facebook/mms-tts-dbj — модель синтеза речи на языке идаан (код ISO 639-3: dbj), созданная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на идаанском языке. Модель использует архитектуру VITS: текстовый энкодер на основе Transformer, потоковый модуль и HiFi-GAN-подобный декодер объединены в сквозную систему синтеза. В чекпойнте 3,5 млн параметров; для того же текста возможны варианты ритма и произношения, поэтому генерация может быть недетерминированной. Модель доступна через Transformers версии 4.33 и новее. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Модель рассчитана на один язык, поэтому её не следует считать универсальным или многоязычным синтезатором; качество для конкретных текстов и сценариев зависит от данных обучения.
facebook/mms-tts-jbu — модель синтеза речи на языке Jukun Takum (jbu), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну; отдельный чекпойнт MMS-TTS обучен для каждого языка. Модель построена на архитектуре VITS: текстовый энкодер, flow-модуль, стохастический предиктор длительности и декодер, формирующий аудиоволну. Чекпойнт содержит 3,5 млн параметров и доступен в форматах PyTorch и Safetensors; для работы предусмотрена библиотека Transformers версии 4.33 и новее. Модель подходит для озвучивания текста на Jukun Takum, например для голосовых интерфейсов и создания аудиоверсий материалов. Генерация недетерминирована: для повторения результата требуется фиксированное начальное значение. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.
facebook/mms-tts-kbo — модель синтеза речи на языке келико (Keliko, код kbo) из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на келико. Для каждого языка в проекте обучается отдельный чекпойнт. Модель построена на архитектуре VITS — сквозной вариационном автоэнкодере с состязательным обучением, Transformer-энкодером текста, потоком нормализации, предсказателем длительности и декодером на основе HiFi-GAN. Веса содержат около 3,5 млн параметров; модель доступна для Transformers версии 4.33 и новее. Предсказатель длительности стохастический, поэтому один и тот же текст может звучать по-разному; для воспроизводимого результата требуется фиксировать seed. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
facebook/mms-tts-kde — модель синтеза речи на маконде (Makonde, код kde), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну; для каждого языка MMS-TTS обучается отдельный чекпойнт. Модель построена на архитектуре VITS: текстовый энкодер и потоковые слои формируют акустические признаки, а декодер на основе свёрточных слоёв создаёт аудио. Размер модели — 3,5 млн параметров; она доступна для использования через Transformers версии 4.33 и новее. Модель предназначена для озвучивания текста на маконде, например для голосовых интерфейсов и создания аудиоверсий текстов. Стохастический предиктор длительности позволяет получать разные ритмические варианты произношения одного текста, поэтому генерация недетерминирована и для повторения результата требуется фиксированный seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
facebook/mms-tts-kkj — модель синтеза речи на языке Kako (kkj), разработанная Facebook в рамках проекта Massively Multilingual Speech. Это отдельный чекпойнт для каждого языка проекта, основанный на архитектуре VITS: модель преобразует входной текст в речевую аудиоволну, используя стохастический предиктор длительности и HiFi-GAN-подобный декодер. Число параметров — 3,5 млн; модель доступна через библиотеку Transformers версии 4.33 и новее. Модель предназначена для озвучивания текста на языке Kako. Стохастический предиктор позволяет варьировать ритм речи, поэтому для воспроизводимого результата требуется фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства на некоммерческих условиях.
facebook/mms-tts-kmd — модель синтеза речи на языке Kalinga, Majukayang (kmd) из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на этом языке. Модель построена на архитектуре VITS и содержит около 3,5 млн параметров. Это отдельный чекпойнт, обученный для одного языка; стохастический предсказатель длительности позволяет получать варианты произношения с разным ритмом, поэтому при одинаковом тексте результат может меняться. Для повторяемой генерации README рекомендует фиксировать seed. Модель доступна через библиотеку Transformers версии 4.33 и выше. Репозиторий использует форматы PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.
facebook/mms-tts-knb — модель синтеза речи на языке Kalinga, Lubuagan (knb), созданная в рамках проекта Massively Multilingual Speech компании Facebook. Она преобразует текст в речевую аудиоволну и подходит для озвучивания текстов на этом языке. Для каждого языка MMS-TTS обучается отдельный чекпойнт. Модель построена на архитектуре VITS: она объединяет текстовый энкодер на основе Transformer, вариационный автоэнкодер и декодер, похожий на HiFi-GAN. В метаданных указаны 3,5 млн параметров и форматы PyTorch и Safetensors. Из-за стохастического предсказателя длительности результат может меняться при одинаковом тексте; для повторяемой генерации нужен фиксированный seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерчески.
facebook/mms-tts-kne — модель синтеза речи на языке канканаэй (Kankanaey, код kne), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на канканаэй. Модель построена на архитектуре VITS и содержит около 3,5 млн параметров; для каждого языка проекта обучается отдельный чекпойнт. Вариативный предсказатель длительности может создавать разные ритмические варианты одной и той же фразы, поэтому результат зависит от случайного seed. Модель доступна через Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-kwd — модель синтеза речи на языке квайо (Kwaio, код ISO 639-3: kwd), разработанная Meta в рамках проекта Massively Multilingual Speech. Это отдельный чекпойнт для одного языка из семейства MMS-TTS: по входному тексту модель генерирует речевую аудиоволну. Модель построена на архитектуре VITS — сквозном вариационном автоэнкодере с Transformer-энкодером текста, flow-модулем, стохастическим предсказателем длительности и декодером на основе HiFi-GAN. Размер модели — около 3,5 млн параметров; она доступна в формате PyTorch и Safetensors и поддерживается библиотекой Transformers начиная с версии 4.33. Модель предназначена для озвучивания текста на квайо, например для речевых интерфейсов и создания аудиоматериалов. Стохастический предсказатель длительности позволяет варьировать ритм речи; для повторения того же результата требуется фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
facebook/mms-tts-lbw — модель синтеза речи на языке толаки (lbw), созданная Meta в рамках проекта Massively Multilingual Speech. Она преобразует текст на толаки в речевую аудиоволну и предназначена для озвучивания текста на этом языке. Модель построена на архитектуре VITS: она объединяет вариационный автоэнкодер, нормализующие потоки, стохастический предиктор длительности и декодер на основе свёрточных слоёв. Размер модели — 3,5 млн параметров; формат весов — PyTorch и Safetensors. Для повторения результата генерации нужен фиксированный seed, поскольку предиктор длительности стохастический. Модель доступна через библиотеку Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не для коммерческих целей.
facebook/mms-tts-mee — модель синтеза речи для языка Mengen (mee), созданная в рамках проекта Massively Multilingual Speech компании Facebook. Она преобразует текст на Mengen в речевую аудиоволну и предназначена для озвучивания текста и создания синтетической речи на этом языке. Модель использует архитектуру VITS и содержит 3,5 млн параметров. Это отдельный языковой чекпойнт: для каждого языка в проекте MMS обучается собственная модель. Синтез выполняется сквозным образом; стохастический предиктор длительности позволяет получать разные ритмы речи для одного текста, поэтому для воспроизводимого результата нужен фиксированный seed. Модель доступна через Transformers версии 4.33 и выше. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не приводит подробностей о качестве речи или ограничениях для конкретных вариантов написания и содержания текста.
facebook/mms-tts-mgh — модель синтеза речи на языке макуа-митту, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую волну и подходит для озвучивания текстов на макуа-митту. Модель использует архитектуру VITS — сквозную систему синтеза речи на основе условного вариационного автоэнкодера, нормализующих потоков и декодера, построенного по принципу HiFi-GAN. В репозитории указаны веса PyTorch и safetensors; размер модели — 3,5 млн параметров. Для одинакового результата генерации требуется фиксировать seed, поскольку предсказатель длительности работает стохастически. Модель доступна через Transformers версии 4.33 и выше и распространяется по лицензии CC BY-NC 4.0.
facebook/mms-tts-mzj — модель синтеза речи на языке Manya (код mzj), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну; для каждого языка проекта обучается отдельный чекпойнт. Модель основана на архитектуре VITS и содержит 3,5 млн параметров. VITS объединяет вариационный автоэнкодер, Transformer-энкодер текста, flow-модуль и HiFi-GAN-подобный декодер. Стохастический предиктор длительности позволяет синтезировать текст с разным ритмом, поэтому результаты могут меняться между запусками; для повторяемого результата нужен фиксированный seed. Модель доступна через Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерчески.
facebook/mms-tts-nca — модель синтеза речи Iyo для языка, обозначенного кодом nca, разработанная в рамках проекта Massively Multilingual Speech компании Facebook. Это отдельный языковой чекпойнт семейства MMS-TTS, предназначенный для преобразования текста в речевую аудиоволну. Модель построена на архитектуре VITS и формирует речь сквозным образом: текстовый энкодер и flow-модуль передают признаки декодеру HiFi-GAN-подобного типа, а стохастический предсказатель длительности позволяет варьировать ритм произношения. Модель доступна через Transformers версии 4.33 и новее. Веса представлены в форматах PyTorch и Safetensors; размер составляет около 3,5 млн параметров. Стохастическая генерация может давать разные варианты звучания для одного текста, поэтому для повторения результата требуется фиксировать seed. Модель рассчитана на язык nca; переносить её возможности на другие языки без подтверждения не следует. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование.