/ Профессии
Универсальные способности и операции

I.9Аудио и музыка

В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

АудиоТекст
AI-задач
15
в этой профессии
Подходящих моделей
4 835
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
АудиоТекст

Рекомендованные модели

4 835 моделей
Загрузки
Лайки
Дата выхода
2 161–2 190 из 4 835
Splintir
speecht5_tts-pld-ceb-solo

Splintir/speecht5_tts-pld-ceb-solo — модель синтеза речи на основе SpeechT5, созданная разработчиком Splintir дообучением чекпойнта Splintir/speecht5_tts-pld-ceb-v2 на записях одного говорящего, CEB_0348. Она предназначена для преобразования текста на себуанском языке в речь с голосом этого диктора. Обучение использовало 99 тренировочных и 11 оценочных клипов общей длительностью 15,5 минуты; для каждого вызова требуется 512-мерный x-vector, а файл speaker.npy содержит embedding целевого голоса. По приведённым в карточке тестам модель показала лучшую машинную разборчивость среди сравниваемых вариантов для целевого голоса CEB_0348. Проверка оценивала восстановление текста распознавателями речи, а не естественность звучания. Модель подходит как готовый голосовой вариант для себуанского, а также как основа для дальнейшего дообучения. Речь остаётся тихой и медленной: в карточке указаны RMS 0,024 и около 6,4 секунды на строку. Результаты получены на небольшом наборе тестовых фраз и не доказывают качество для других голосов или общего синтеза себуанской речи. Лицензия — MIT.

150авг. 2026ctx600
textaudiomithugging-face
bezzam
VibeVoice-AcousticTokenizer

Карточка модели bezzam/VibeVoice-AcousticTokenizer на Hugging Face совпадает с карточкой microsoft/VibeVoice-AcousticTokenizer, поэтому описание составлено по ней. VibeVoice Acoustic Tokenizer — акустический токенизатор Microsoft, компонент семейства VibeVoice для работы с речевым аудио. Он преобразует аудио в непрерывные речевые представления и поддерживает обратное декодирование; токенизатор используется в системах VibeVoice для синтеза речи и распознавания речи. В README указана частота кадров 7,5 Гц, что позволяет компактно представлять длинные аудиопоследовательности. Модель предназначена для извлечения признаков из аудио и как компонент конвейеров TTS и ASR, включая генерацию выразительной многосторонней речи и обработку разговорного аудио. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — MIT. Для подключения README описывает установку из исходного кода до включения токенизатора в официальный релиз Transformers.

760нояб. 2025
textembeddingmithugging-face
maitrix-org
Voila-chat

Карточка модели maitrix-org/Voila-chat на Hugging Face совпадает с карточкой maitrix-org/Voila-Tokenizer, поэтому описание составлено по ней. Voila-Tokenizer — аудиотокенизатор семейства Voila от Maitrix, построенный на архитектуре EnCodec и представленный в формате safetensors. Он предназначен для преобразования аудио в представление, пригодное для работы голосовых языковых моделей и обратного преобразования в аудио; в карточке Hugging Face основная задача отмечена как audio-to-audio. Проект Voila описывает применение токенизатора в единой системе голосовых задач, включая распознавание речи, синтез речи, перевод речи и голосовой диалог в реальном времени. В метаданных перечислены английский, китайский, французский, немецкий, японский и корейский языки. Для семейства Voila заявлены потоковая обработка с низкой задержкой и поддержка множества голосов; конкретные параметры и результаты для этого токенизатора отдельно не приведены. Модель распространяется по лицензии MIT.

5854март 2025ctx8.2K
audiomithugging-face
surogate
amami-357m-ro

Amami 357M Romanian — модель синтеза речи от Invergent из семейства Surogate Amami, построенная на архитектуре Magpie-TTS. Она преобразует румынский текст в речь с частотой 22,05 кГц и поддерживает три фиксированных голоса: Doina, Tudor и Radu. Модель рассчитана на озвучивание обычного текста, включая числа, даты и сокращения; аудио можно синтезировать потоково через движок surogate на CPU или GPU. В README для румынского тестового набора приведены результаты разборчивости по метрике WER, однако эта метрика не оценивает естественность и просодию. Модель поддерживает только румынский язык, не клонирует голоса; длинные входы разбиваются на предложения, а редкие иностранные имена, необычные акронимы и длинные коды могут читаться неверно. Для некоторых двухпредложных входов возможна преждевременная остановка синтеза. Лицензия — CC-BY-NC-4.0, с ограничением на коммерческое использование.

3911сент. 2026
textaudiocc-by-nc-4.0hugging-face
1Developer
cali-whisper-tiny.en-drop-003-production

Это дообученная компанией 1Developer модель OpenAI Whisper Tiny для автоматического распознавания речи. Она обучена на наборе cali-name-dataset-short-version, а её архитектура относится к семейству Whisper и реализована классом WhisperForConditionalGeneration. Модель принимает аудио и преобразует речь в текст; карточка указывает английский язык. В репозитории представлены веса Safetensors, библиотека для работы — Transformers. Модель подходит для транскрибации английской речи и распознавания имён из обучающего набора. В README сообщаются значения WER Ortho 0,0 и WER 0,0, а также loss 0,0001 на оценочном наборе; размер и состав этого набора не раскрыты, поэтому результаты нельзя уверенно переносить на другие данные. Лицензия — Apache-2.0.

60июль 2026ctx1K
textaudioapache-2.0hugging-face
aoiandroid
distill-neucodec

Карточка модели aoiandroid/distill-neucodec на Hugging Face совпадает с карточкой neuphonic/distill-neucodec, поэтому описание составлено по ней. Distill-NeuCodec — нейронный аудиокодек, разработанный Neuphonic. Это версия NeuCodec с совместимым дистиллированным энкодером, предназначенная для кодирования и представления аудио в задачах обработки речи и аудиосигналов. В модели медленный акустический энкодер BigCodec заменён на SQCodec: его размер сокращён с 70 млн до 36 млн параметров. Семантический энкодер w2v-bert-2.0 заменён на DistilHuBERT: с 600 млн до 21 млн параметров. В результате дистиллированный энкодер примерно в 10 раз меньше по числу параметров и требует примерно в 7,5 раза меньше MAC-операций при инференсе. Работа основана на X-Codec2.0 и SQCodec. Модель рассчитана на аудио-аудио сценарии и обучалась с использованием наборов данных для речи, включая Emilia, Multilingual LibriSpeech, VCTK, Fleurs, Common Voice 13.0 и LibriTTS-R. Репозиторий содержит веса PyTorch; для использования предлагается пакет neucodec и Python 3.10 или новее. Лицензия — Apache-2.0. Карточка не уточняет поддерживаемые языки, качество реконструкции и ограничения применения.

1780май 2026
audioapache-2.0hugging-face
chrisjay
fonxlsr

chrisjay/fonxlsr — модель распознавания речи на базе Wav2Vec2-Large-XLSR-53, дообученная Chris C. Emezue и Bonaventure F.P. Dossou на наборе Fon Dataset для языка фон (фɔ̀нгбè). Модель преобразует речь в текст и предназначена для транскрибирования аудиозаписей на этом языке. Модель содержит около 402,7 млн параметров и использует архитектуру Wav2Vec2ForCTC. Для входной речи требуется частота дискретизации 16 кГц. В README приведён результат оценки 14,97 % на тестовых данных Fon; метрика в карточке не уточнена. Модель распространяется по лицензии Apache-2.0.

378март 2022
textaudioapache-2.0hugging-face
nineninesix
kani-tts-370m

KaniTTS — модель преобразования текста в речь, представленная пользователем nineninesix. Она использует двухэтапную архитектуру: языковая модель формирует сжатые аудиотокены, после чего нейрокодек синтезирует из них звуковую волну. В метаданных указаны архитектура LFM2, 460 млн параметров и контекст до 128 000 токенов; README сообщает размер 370 млн параметров и частоту дискретизации 22 кГц. Модель предназначена для синтеза речи в разговорных помощниках, чат-ботах, средствах доступности и языковых приложениях. Заявлена поддержка английского, немецкого, арабского, китайского, испанского и корейского языков. README описывает низкую задержку и возможность работы на доступном оборудовании, но приведённые результаты производительности относятся к RTX 5080. Модель дообучена на nineninesix/kani-tts-450m-0.2-pt. Лицензия в метаданных обозначена как other, тогда как README заявляет Apache 2.0, поэтому условия распространения и использования следует уточнять по лицензии репозитория. README также отмечает снижение качества на входах длиннее 2000 токенов, ограниченную выразительность без дополнительной настройки и возможные смещения в произношении и просодии.

262164сент. 2025ctx128K
textotherhugging-face
cisco-ai
mini-bart-g2p

mini-bart-g2p — компактная модель Cisco на архитектуре BART для преобразования английских написанных слов в фонемы с обозначениями ударения. Это последовательностная модель типа encoder-decoder с 3,2 млн параметров и контекстом до 128 токенов; для обработки использует Transformers и доступна в форматах ONNX и safetensors. Модель предназначена для преобразования одного слова за раз, в том числе слов с дефисами и апострофами. Токенизатор приводит ввод к нижнему регистру и разделяет буквы внутри модели, поэтому слова можно подавать в обычном написании. Модель обучена на данных Librispeech Alignments и CMUDict и распространяется по лицензии Apache-2.0. Модель рассчитана только на английский язык. Подача нескольких слов одной строкой приводит к неожиданным результатам, а неапострофная пунктуация может нарушить преобразование; перед обработкой рекомендуется удалять лишние знаки препинания.

16912апр. 2023ctx128
textapache-2.0hugging-face
jonschneider
mini-bart-g2p

Карточка модели jonschneider/mini-bart-g2p на Hugging Face совпадает с карточкой cisco-ai/mini-bart-g2p, поэтому описание составлено по ней. mini-bart-g2p — компактная модель Cisco на архитектуре BART для преобразования английских написанных слов в фонемы с обозначениями ударения. Это последовательностная модель типа encoder-decoder с 3,2 млн параметров и контекстом до 128 токенов; для обработки использует Transformers и доступна в форматах ONNX и safetensors. Модель предназначена для преобразования одного слова за раз, в том числе слов с дефисами и апострофами. Токенизатор приводит ввод к нижнему регистру и разделяет буквы внутри модели, поэтому слова можно подавать в обычном написании. Модель обучена на данных Librispeech Alignments и CMUDict и распространяется по лицензии Apache-2.0. Модель рассчитана только на английский язык. Подача нескольких слов одной строкой приводит к неожиданным результатам, а неапострофная пунктуация может нарушить преобразование; перед обработкой рекомендуется удалять лишние знаки препинания.

110июнь 2026ctx128
textapache-2.0hugging-face
facebook
mms-tts-abp

facebook/mms-tts-abp — модель синтеза речи на языке айта-абеллен (код abp), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиозапись и подходит для озвучивания фраз и создания речевого вывода на этом языке. Модель использует архитектуру VITS: текстовый энкодер на основе Transformer, вероятностный модуль длительности и декодер для генерации аудиоволны. Чекпойнт содержит около 3,5 млн параметров, распространяется в форматах PyTorch и Safetensors и доступен через Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Из-за стохастического предсказателя длительности генерация недетерминирована: для повторения того же результата требуется фиксированный seed. Качество синтеза может зависеть от соответствия входного текста языку и письменным нормам айта-абеллен.

1130сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-acd

facebook/mms-tts-acd — модель синтеза речи на языке Gikyode (код acd), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на Gikyode. Модель использует архитектуру VITS: текстовый энкодер на основе Transformer, вероятностный модуль длительности и декодер речи. Чекпойнт содержит 3,5 млн параметров и доступен в форматах PyTorch и Safetensors; для работы с ним подходит библиотека Transformers версии 4.33 и новее. Каждый язык MMS-TTS обслуживается отдельным чекпойнтом. Модель рассчитана на синтез речи на одном языке, поэтому её нельзя считать универсальной многоязычной TTS-моделью. Из-за стохастического предсказания длительности результат может меняться между запусками; для воспроизводимого аудио нужен фиксированный seed. Лицензия CC BY-NC 4.0 ограничивает использование некоммерческими целями и требует атрибуции.

1100сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-adj

facebook/mms-tts-adj — модель синтеза речи на языке адиукру (Adioukrou, adj), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Это отдельный чекпойнт для одного языка из семейства MMS-TTS, предназначенный для преобразования входного текста в речевую аудиоволну. Модель использует архитектуру VITS: условный вариационный автоэнкодер с текстовым энкодером на основе Transformer, flow-модулем, стохастическим предсказателем длительности и декодером на основе HiFi-GAN. Чекпойнт содержит 3,5 млн параметров; для работы доступен через Transformers версии 4.33 и новее. Генерация недетерминирована, поэтому для повторения результата требуется фиксированное случайное зерно. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование. Модель рассчитана на адиукру; качество синтеза для других языков README не заявляет.

1070сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-aka

facebook/mms-tts-aka — модель синтеза речи на языке акан (aka), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст на акан в речевую аудиоволну и подходит для озвучивания текстов и создания голосовых сообщений на этом языке. Для каждого языка проекта обучается отдельный чекпойнт. Модель основана на архитектуре VITS — сквозном вариационном автоэнкодере с Transformer-энкодером текста, нормализующими потоками, декодером в стиле HiFi-GAN и стохастическим предсказателем длительности. Размер — 3,5 млн параметров; доступны веса PyTorch и Safetensors. Из-за стохастического предсказания длительности результат может меняться между запусками; фиксированный seed позволяет воспроизвести ту же аудиоволну. Для использования требуется Transformers версии 4.33 или новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

7256сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-bav

facebook/mms-tts-bav — модель синтеза речи на языке Vengo (bav), разработанная Facebook в рамках проекта Massively Multilingual Speech (MMS). Это отдельный языковой чекпойнт семейства VITS: он принимает текст и генерирует речевую аудиоволну. Размер модели — 3,5 млн параметров; доступны веса PyTorch и Safetensors для использования через Transformers версии 4.33 и новее. Архитектура VITS объединяет текстовый энкодер, потоковый модуль, стохастический предиктор длительности и HiFi-GAN-подобный декодер, что позволяет синтезировать речь с различным ритмом. Генерация недетерминирована, поэтому для воспроизводимого результата требуется фиксированное случайное зерно. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

600сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-btd

facebook/mms-tts-btd — модель синтеза речи на языке Batak Dairi из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания текста на этом языке. Модель построена на архитектуре VITS: это сквозная система с вариационным автоэнкодером, flow-модулем и декодером, подобным HiFi-GAN; стохастический предиктор длительности позволяет варьировать ритм речи. Размер — 3,5 млн параметров. Модель доступна в Transformers версии 4.33 и новее, веса представлены в форматах PyTorch и Safetensors. Генерация недетерминирована, поэтому для повторяемого результата требуется фиксированное начальное значение генератора. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование.

920сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-dbj

facebook/mms-tts-dbj — модель синтеза речи на языке идаан (код ISO 639-3: dbj), созданная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на идаанском языке. Модель использует архитектуру VITS: текстовый энкодер на основе Transformer, потоковый модуль и HiFi-GAN-подобный декодер объединены в сквозную систему синтеза. В чекпойнте 3,5 млн параметров; для того же текста возможны варианты ритма и произношения, поэтому генерация может быть недетерминированной. Модель доступна через Transformers версии 4.33 и новее. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Модель рассчитана на один язык, поэтому её не следует считать универсальным или многоязычным синтезатором; качество для конкретных текстов и сценариев зависит от данных обучения.

1090сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-jbu

facebook/mms-tts-jbu — модель синтеза речи на языке Jukun Takum (jbu), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну; отдельный чекпойнт MMS-TTS обучен для каждого языка. Модель построена на архитектуре VITS: текстовый энкодер, flow-модуль, стохастический предиктор длительности и декодер, формирующий аудиоволну. Чекпойнт содержит 3,5 млн параметров и доступен в форматах PyTorch и Safetensors; для работы предусмотрена библиотека Transformers версии 4.33 и новее. Модель подходит для озвучивания текста на Jukun Takum, например для голосовых интерфейсов и создания аудиоверсий материалов. Генерация недетерминирована: для повторения результата требуется фиксированное начальное значение. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

960сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-kbo

facebook/mms-tts-kbo — модель синтеза речи на языке келико (Keliko, код kbo) из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на келико. Для каждого языка в проекте обучается отдельный чекпойнт. Модель построена на архитектуре VITS — сквозной вариационном автоэнкодере с состязательным обучением, Transformer-энкодером текста, потоком нормализации, предсказателем длительности и декодером на основе HiFi-GAN. Веса содержат около 3,5 млн параметров; модель доступна для Transformers версии 4.33 и новее. Предсказатель длительности стохастический, поэтому один и тот же текст может звучать по-разному; для воспроизводимого результата требуется фиксировать seed. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

940сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-kde

facebook/mms-tts-kde — модель синтеза речи на маконде (Makonde, код kde), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну; для каждого языка MMS-TTS обучается отдельный чекпойнт. Модель построена на архитектуре VITS: текстовый энкодер и потоковые слои формируют акустические признаки, а декодер на основе свёрточных слоёв создаёт аудио. Размер модели — 3,5 млн параметров; она доступна для использования через Transformers версии 4.33 и новее. Модель предназначена для озвучивания текста на маконде, например для голосовых интерфейсов и создания аудиоверсий текстов. Стохастический предиктор длительности позволяет получать разные ритмические варианты произношения одного текста, поэтому генерация недетерминирована и для повторения результата требуется фиксированный seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

920сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-kkj

facebook/mms-tts-kkj — модель синтеза речи на языке Kako (kkj), разработанная Facebook в рамках проекта Massively Multilingual Speech. Это отдельный чекпойнт для каждого языка проекта, основанный на архитектуре VITS: модель преобразует входной текст в речевую аудиоволну, используя стохастический предиктор длительности и HiFi-GAN-подобный декодер. Число параметров — 3,5 млн; модель доступна через библиотеку Transformers версии 4.33 и новее. Модель предназначена для озвучивания текста на языке Kako. Стохастический предиктор позволяет варьировать ритм речи, поэтому для воспроизводимого результата требуется фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства на некоммерческих условиях.

1030сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-kmd

facebook/mms-tts-kmd — модель синтеза речи на языке Kalinga, Majukayang (kmd) из проекта Massively Multilingual Speech компании Facebook. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на этом языке. Модель построена на архитектуре VITS и содержит около 3,5 млн параметров. Это отдельный чекпойнт, обученный для одного языка; стохастический предсказатель длительности позволяет получать варианты произношения с разным ритмом, поэтому при одинаковом тексте результат может меняться. Для повторяемой генерации README рекомендует фиксировать seed. Модель доступна через библиотеку Transformers версии 4.33 и выше. Репозиторий использует форматы PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.

1010сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-knb

facebook/mms-tts-knb — модель синтеза речи на языке Kalinga, Lubuagan (knb), созданная в рамках проекта Massively Multilingual Speech компании Facebook. Она преобразует текст в речевую аудиоволну и подходит для озвучивания текстов на этом языке. Для каждого языка MMS-TTS обучается отдельный чекпойнт. Модель построена на архитектуре VITS: она объединяет текстовый энкодер на основе Transformer, вариационный автоэнкодер и декодер, похожий на HiFi-GAN. В метаданных указаны 3,5 млн параметров и форматы PyTorch и Safetensors. Из-за стохастического предсказателя длительности результат может меняться при одинаковом тексте; для повторяемой генерации нужен фиксированный seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерчески.

950сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-kne

facebook/mms-tts-kne — модель синтеза речи на языке канканаэй (Kankanaey, код kne), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на канканаэй. Модель построена на архитектуре VITS и содержит около 3,5 млн параметров; для каждого языка проекта обучается отдельный чекпойнт. Вариативный предсказатель длительности может создавать разные ритмические варианты одной и той же фразы, поэтому результат зависит от случайного seed. Модель доступна через Transformers версии 4.33 и выше. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

910сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-kwd

facebook/mms-tts-kwd — модель синтеза речи на языке квайо (Kwaio, код ISO 639-3: kwd), разработанная Meta в рамках проекта Massively Multilingual Speech. Это отдельный чекпойнт для одного языка из семейства MMS-TTS: по входному тексту модель генерирует речевую аудиоволну. Модель построена на архитектуре VITS — сквозном вариационном автоэнкодере с Transformer-энкодером текста, flow-модулем, стохастическим предсказателем длительности и декодером на основе HiFi-GAN. Размер модели — около 3,5 млн параметров; она доступна в формате PyTorch и Safetensors и поддерживается библиотекой Transformers начиная с версии 4.33. Модель предназначена для озвучивания текста на квайо, например для речевых интерфейсов и создания аудиоматериалов. Стохастический предсказатель длительности позволяет варьировать ритм речи; для повторения того же результата требуется фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

920сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-lbw

facebook/mms-tts-lbw — модель синтеза речи на языке толаки (lbw), созданная Meta в рамках проекта Massively Multilingual Speech. Она преобразует текст на толаки в речевую аудиоволну и предназначена для озвучивания текста на этом языке. Модель построена на архитектуре VITS: она объединяет вариационный автоэнкодер, нормализующие потоки, стохастический предиктор длительности и декодер на основе свёрточных слоёв. Размер модели — 3,5 млн параметров; формат весов — PyTorch и Safetensors. Для повторения результата генерации нужен фиксированный seed, поскольку предиктор длительности стохастический. Модель доступна через библиотеку Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не для коммерческих целей.

900сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-mee

facebook/mms-tts-mee — модель синтеза речи для языка Mengen (mee), созданная в рамках проекта Massively Multilingual Speech компании Facebook. Она преобразует текст на Mengen в речевую аудиоволну и предназначена для озвучивания текста и создания синтетической речи на этом языке. Модель использует архитектуру VITS и содержит 3,5 млн параметров. Это отдельный языковой чекпойнт: для каждого языка в проекте MMS обучается собственная модель. Синтез выполняется сквозным образом; стохастический предиктор длительности позволяет получать разные ритмы речи для одного текста, поэтому для воспроизводимого результата нужен фиксированный seed. Модель доступна через Transformers версии 4.33 и выше. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не приводит подробностей о качестве речи или ограничениях для конкретных вариантов написания и содержания текста.

930сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-mgh

facebook/mms-tts-mgh — модель синтеза речи на языке макуа-митту, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую волну и подходит для озвучивания текстов на макуа-митту. Модель использует архитектуру VITS — сквозную систему синтеза речи на основе условного вариационного автоэнкодера, нормализующих потоков и декодера, построенного по принципу HiFi-GAN. В репозитории указаны веса PyTorch и safetensors; размер модели — 3,5 млн параметров. Для одинакового результата генерации требуется фиксировать seed, поскольку предсказатель длительности работает стохастически. Модель доступна через Transformers версии 4.33 и выше и распространяется по лицензии CC BY-NC 4.0.

910сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-mzj

facebook/mms-tts-mzj — модель синтеза речи на языке Manya (код mzj), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну; для каждого языка проекта обучается отдельный чекпойнт. Модель основана на архитектуре VITS и содержит 3,5 млн параметров. VITS объединяет вариационный автоэнкодер, Transformer-энкодер текста, flow-модуль и HiFi-GAN-подобный декодер. Стохастический предиктор длительности позволяет синтезировать текст с разным ритмом, поэтому результаты могут меняться между запусками; для повторяемого результата нужен фиксированный seed. Модель доступна через Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерчески.

1110сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-nca

facebook/mms-tts-nca — модель синтеза речи Iyo для языка, обозначенного кодом nca, разработанная в рамках проекта Massively Multilingual Speech компании Facebook. Это отдельный языковой чекпойнт семейства MMS-TTS, предназначенный для преобразования текста в речевую аудиоволну. Модель построена на архитектуре VITS и формирует речь сквозным образом: текстовый энкодер и flow-модуль передают признаки декодеру HiFi-GAN-подобного типа, а стохастический предсказатель длительности позволяет варьировать ритм произношения. Модель доступна через Transformers версии 4.33 и новее. Веса представлены в форматах PyTorch и Safetensors; размер составляет около 3,5 млн параметров. Стохастическая генерация может давать разные варианты звучания для одного текста, поэтому для повторения результата требуется фиксировать seed. Модель рассчитана на язык nca; переносить её возможности на другие языки без подтверждения не следует. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование.

980сент. 2023
textaudiocc-by-nc-4.0hugging-face

Задачи профессии

15 задач
139Классификация звуковых событий. — AI анализирует спектральные и временные признаки аудио и относит фрагменты к классам звуковых событий: речи, музыке, сигналам, ударам, шумам или другим заданным категориям. На выходе — метки с временными границами и уверенностью. Качество проверяют по размеченным записям, отдельно оценивая редкие классы, смешанные звуки и условия с сильным фоновым шумом.
140Обнаружение заданного звука в непрерывном аудиопотоке. — Механизм: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение заданного звука в непрерывном аудиопотоке», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
141Определение источника и направления звука. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение источника и направления звука» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
142Разделение смеси на голос, музыку и отдельные инструменты. — Для этой задачи система сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Рабочие входы: текст, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: результат «Разделение смеси на голос, музыку и отдельные инструменты» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
143Удаление фонового шума и акустических артефактов. — Практическая реализация: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Входной контекст включает референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: преобразованный материал по задаче «Удаление фонового шума и акустических артефактов» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
144Восстановление повреждённой или неполной аудиозаписи. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: преобразованный материал по задаче «Восстановление повреждённой или неполной аудиозаписи» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
145Автоматическое выравнивание громкости и динамического диапазона. — AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. К исходным данным относятся аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Автоматическое выравнивание громкости и динамического диапазона» с сохранённым содержанием и журналом значимых изменений. Надёжность оценивают сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
146Генерация музыки по жанру, настроению, структуре и ограничениям. — Для этой задачи система генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: редактируемый артефакт по задаче «Генерация музыки по жанру, настроению, структуре и ограничениям», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
147Генерация звуковых эффектов по текстовому описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Генерация звуковых эффектов по текстовому описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
148Создание аранжировки для заданной мелодии. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: редактируемый артефакт по задаче «Создание аранжировки для заданной мелодии», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
149Продолжение музыкального фрагмента в согласованном стиле. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: редактируемый артефакт по задаче «Продолжение музыкального фрагмента в согласованном стиле», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
150Транскрибирование музыки в ноты или MIDI. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Транскрибирование музыки в ноты или MIDI» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
151Определение темпа, тональности, аккордов и структуры композиции. — Практическая реализация: AI объединяет несколько источников свидетельств и выбирает наиболее обоснованное определение с оценкой уверенности. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение темпа, тональности, аккордов и структуры композиции» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
152Сведение и предварительный мастеринг аудиоматериала. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: преобразованный материал по задаче «Сведение и предварительный мастеринг аудиоматериала» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
153Адаптация длительности музыки под видео без резкого обрыва. — AI строит профиль текущих потребностей и адаптирует содержание, порядок или параметры взаимодействия под конкретного человека. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: адаптированный вариант для «Адаптация длительности музыки под видео без резкого обрыва» с указанием контекста и факторов, определивших персонализацию. Надёжность оценивают по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче. <a id="section-i-10"></a>

0 моделей