/ Профессии
Универсальные способности и операции

I.9Аудио и музыка

В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

АудиоТекст
AI-задач
15
в этой профессии
Подходящих моделей
4 835
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
АудиоТекст

Рекомендованные модели

4 835 моделей
Загрузки
Лайки
Дата выхода
1 081–1 110 из 4 835
keanteng
sesame-csm-elise

keanteng/sesame-csm-elise — дообученная модель синтеза речи, созданная на основе sesame/csm-1b с использованием набора данных MrDragonFox/Elise. Она предназначена для генерации речи по тексту с голосом, обученным на этом наборе данных; в репозитории приведены примеры аудиовыходов. Модель использует архитектуру CSM с плотными весами и классом CsmForConditionalGeneration, содержит около 977,3 млн параметров и рассчитана на английский язык. Базовая модель поддерживает учёт аудиоконтекста; карточка описывает дообучение как клонирование голоса посредством условной генерации речи. Репозиторий использует формат safetensors и библиотеку Transformers. Модель распространяется по лицензии AGPL-3.0. В README не приведены конкретные характеристики голоса Elise, поэтому тембр и сходство генерации оценить по описанию нельзя; также в карточке нет численных оценок качества.

9410май 2025ctx2K
textaudioagpl-3.0hugging-face
sapinsapin
speecht5_tts-fsc

sapinsapin/speecht5_tts-fsc — дообученная модель Microsoft SpeechT5 для синтеза речи из текста на филиппинском языке, включая тагальский и смешанную речь Taglish. Модель обучена на датасете FilipinoSpeechCorpus: 1867 записей прочитанной речи; обучение продолжалось 1000 шагов. Для генерации использовались обусловливание голосом через SpeechBrain x-vector и вокодер microsoft/speecht5_hifigan. Модель предназначена для озвучивания филиппинских текстов и экспериментов с синтезом речи для тагальской и Taglish-речи. В карточке приведено значение eval_loss 0.4432 и упомянуты аудиопримеры для прослушивания. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — MIT. Это дообучение microsoft/speecht5_tts, которая сама основана на SpeechT5 и была дообучена на LibriTTS. Оценка качества ограничена описанным экспериментом на небольшом корпусе прочитанной речи; сведения о переносе на другие голоса, типы речи и широкие сценарии использования не приведены.

300авг. 2026ctx600
textaudiomithugging-face
sapinsapin
speecht5_tts-pld-bcl

Модель sapinsapin/speecht5_tts-pld-bcl — дообученная на наборе данных sapinsapin/pld версия SpeechT5 от Microsoft для синтеза речи из текста на бикольском языке (Bicolano, BCL). Она принимает текст и использует обусловливание по голосовому эмбеддингу говорящего; для получения аудио в примерах применялись x-vector из SpeechBrain и вокодер microsoft/speecht5_hifigan. Обучение проведено на 1878 аудиофрагментах в течение 1000 шагов; указанная eval_loss — 0,4176. Модель подходит для озвучивания текстов на бикольском языке. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — MIT.

260авг. 2026ctx600
textaudiomithugging-face
tarun7r
vibevoice-hindi-1.5B

VibeVoice-Hindi-1.5B — модель синтеза речи, дообученная Tarun7r на базе vibevoice/VibeVoice-1.5B для генерации речи на хинди из текста. Архитектура VibeVoice включает языковую основу Qwen2.5-1.5B, акустический и семантический токенизаторы и диффузионный блок; при адаптации использовались LoRA для языковой части и полное дообучение диффузионного блока. Репозиторий содержит веса safetensors и распространяется по лицензии MIT. Модель предназначена для озвучивания текстов на хинди, в том числе длинных диалогов и аудио с несколькими говорящими. Поддерживаются выразительная просодия, клонирование голоса по референсному аудио и потоковая генерация; качество клонирования зависит от чистоты и продолжительности образца голоса. Карточка заявляет генерацию длительных последовательностей вплоть до 90 минут. Есть противоречие в карточке: название, описание и инструкции по инференсу указывают на хинди, тогда как раздел ограничений утверждает, что модель обучена только на английском и китайском и не поддерживает другие языки. Поэтому качество синтеза на хинди нельзя считать гарантированным. Модель предназначена для исследовательского использования; возможны ошибки и смещения, она не генерирует музыку или фоновые эффекты и не моделирует перекрывающуюся речь. Клонирование голоса требует согласия человека, чей голос используется.

4096нояб. 2025
textaudiomithugging-face
lilitket
20220412-203254

Модель lilitket/20220412-203254 — дообученная версия facebook/wav2vec2-xls-r-300m для автоматического распознавания речи. Она основана на архитектуре Wav2Vec2ForCTC и обучена на Common Voice; размер составляет 402,7 млн параметров. Модель принимает аудио и выдаёт текстовую транскрипцию. В карточке приведён результат оценки на тестовой выборке: WER 1,0019 и loss 5,0428. Такой WER указывает на очень низкое качество распознавания в указанной оценке. Модель распространяется под лицензией Apache-2.0.

70апр. 2022
textaudioapache-2.0hugging-face
kawshikbuet17
bengali-cosyvoice3-tts

Bengali CosyVoice3 TTS — модель синтеза речи на бенгальском языке, подготовленная Kawshik Kumar Paul и дообученная на базе FunAudioLLM/Fun-CosyVoice3-0.5B-2512. Она преобразует текст в синтетическую речь; рекомендованный сценарий — кроссъязычный перенос голоса по короткому аудиообразцу. Модель предназначена для экспериментов с бенгальским TTS, разработки для малоресурсных языков, демонстраций и прототипирования. Модель поддерживает бенгальский язык и принимает текст, а при клонировании голоса также использует аудиообразец; результатом является аудио. В репозитории указаны форматы ONNX и safetensors. Лицензия — Apache-2.0. Данные для дообучения — внутренний бенгальский речевой набор, который не опубликован. Возможны ошибки в произношении редких слов, имён, чисел, сокращений и смешанного бенгальско-английского текста; длинные фрагменты могут давать нестабильный результат, а качество может различаться между диалектами и стилями речи. Перед выпуском результат следует проверять; для клонирования голоса необходимо разрешение говорящего.

605июнь 2026
textaudioapache-2.0hugging-face
nari-labs
Dia2-1B

Dia2-1B — потоковая диалоговая модель синтеза речи, разработанная Nari Labs. Она начинает генерировать аудио после получения первых слов и может использовать входное аудио для управления звучанием диалога. Репозиторий содержит веса в формате safetensors и код для запуска; модель рассчитана на генерацию речи на английском языке продолжительностью до двух минут. Модель предназначена для диалоговой речи в сценариях с низкой задержкой, включая интерактивные голосовые приложения. Для запуска README указывает CUDA 12.8 или новее; пример использует bfloat16. Доступны отметки времени слов относительно аудиокадров Mimi. Лицензия — Apache-2.0. Разработчики запрещают имитацию реальных людей без разрешения, вводящую в заблуждение генерацию и незаконное или вредоносное применение.

1.1K27нояб. 2025ctx8.2K
textaudioapache-2.0hugging-face
ehabnegm
lahgtna-omnivoice-egyptian-v2

Lahgtna-OmniVoice Egyptian v2 — разработанная проектом Lahgtna на базе OmniVoice модель синтеза речи на египетском арабском языке. Она обучена на корпусе объёмом около 34 часов с двумя дикторами и поддерживает два обученных голоса, а также клонирование голоса по аудиореференсу в режиме zero-shot. Модель принимает текст с диакритическими знаками и может использоваться для генерации речи, в том числе с передачей эталонного аудио и его расшифровки. Репозиторий указывает поддержку потоковой генерации; пример запуска использует библиотеку OmniVoice и выводит аудио с частотой 24 кГц. В опубликованном сравнительном тесте v2 показала CER 0,102 на 13 предложениях на арабском языке. README отмечает, что на длинных текстах диакритизированные версии, включая v2, теряют связность и могут генерировать бессвязную речь; для длинных текстов рекомендована версия v3. Диакритизация разговорной речи может быть неточной, а переключение на английский не представлено в обучающих данных. Модель дообучена от oddadmix/lahgtna-omnivoice-v2 и распространяется по лицензии Apache-2.0. README также рекомендует получить разрешение на коммерческое использование голосов, основанных на публичных YouTube-записях, и не использовать их для имитации или введения в заблуждение.

450июнь 2026ctx131.1K
textaudioapache-2.0hugging-face
facebook
mms-tts-bgq

facebook/mms-tts-bgq — модель синтеза речи на языке багри (код bgq), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует текст на багри в речевой аудиосигнал; для каждого языка проекта обучается отдельная модель. Модель основана на архитектуре VITS: включает текстовый энкодер, flow-модуль, стохастический предиктор длительности и декодер формы волны, построенный по принципу HiFi-GAN. Размер модели — 3,6 млн параметров. Модель подходит для озвучивания текста на багри и создания речевых интерфейсов для этого языка. Из-за стохастического предиктора одинаковый текст может звучать по-разному; для воспроизводимого результата нужно фиксировать seed. Для работы доступна библиотека Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не для коммерческих целей.

4930сент. 2023
textaudiocc-by-nc-4.0hugging-face
alakxender
mms-tts-div-finetuned-md-f01

Модель alakxender/mms-tts-div-finetuned-md-f01 разработана для синтеза речи на дивехи. Это дообученная на подборке синтетической речи версия архитектуры MMS-TTS на основе VITS; она преобразует текст на дивехи, записанный письмом тхана, в аудио женским голосом. Модель содержит 3,5 млн параметров и доступна в формате Safetensors для библиотеки Transformers. Модель подходит для озвучивания коротких текстов на дивехи и создания женской синтетической речи. В карточке приведена оценка UTMOS 2,349 по трём образцам, что указывает на заметно синтетическое звучание в этой небольшой оценке. Модель распространяется по лицензии MIT.

42K0июнь 2024
textaudiomithugging-face
facebook
mms-tts-kyq

facebook/mms-tts-kyq — модель синтеза речи на языке кенга (Kenga, kyq), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на этом языке. Модель использует архитектуру VITS: она сочетает вариационный автоэнкодер, потоковые преобразования и декодер, построенный по принципу HiFi-GAN. Для одного языка обучается отдельный чекпойнт; размер этой модели — 3,5 млн параметров. Стохастический предиктор длительности позволяет варьировать ритм синтезированной речи, поэтому для повторяемого результата требуется фиксировать seed. Модель доступна через библиотеку Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

1040сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-nnw

facebook/mms-tts-nnw — модель синтеза речи на языке нуну, южный вариант (Nuni, Southern, nnw), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую волну и предназначена для озвучивания текста на этом языке. Модель использует архитектуру VITS: энд-ту-энд вариационный автокодировщик с потоком преобразований, текстовым энкодером на основе Transformer, декодером и стохастическим предсказателем длительности. В метаданных указан размер 3,5 млн параметров; доступны веса PyTorch и Safetensors. Для повторения одного и того же результата требуется фиксировать seed, поскольку генерация недетерминирована. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

1080сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-rmo

facebook/mms-tts-rmo — модель синтеза речи на языке романи, диалекте синте, разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текстов на этом языке. Модель основана на архитектуре VITS: она объединяет вариационный автоэнкодер, потоковый модуль, Transformer-энкодер текста и декодер, построенный по принципу HiFi-GAN. Для моделирования ритма используется стохастический предиктор длительности, поэтому при одинаковом тексте могут получаться разные варианты речи. Веса модели содержат 3,5 млн параметров; для работы доступна библиотека Transformers версии 4.33 и новее. Модель принимает текст на языке романи (синте) и генерирует аудио. Из-за стохастической генерации для повторения того же результата требуется фиксированное начальное значение генератора случайных чисел. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

1020сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-run

facebook/mms-tts-run — модель синтеза речи для языка рунди (Rundi), разработанная в рамках проекта Massively Multilingual Speech (MMS). Это отдельный языковой чекпойнт семейства VITS, который преобразует входной текст в речевую волну. Архитектура VITS объединяет вариационный автоэнкодер, flow-модуль с текстовым энкодером на основе Transformer, стохастический предсказатель длительности и декодер, построенный по принципу HiFi-GAN. Размер модели — 3,5 млн параметров; доступны веса PyTorch и Safetensors. Модель предназначена для озвучивания текста на рунди. Стохастический предсказатель длительности позволяет получать варианты произношения и ритма для одного и того же текста; для повторяемого результата требуется фиксировать seed. Использование возможно через библиотеку Transformers версии 4.33 и новее. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

1970сент. 2023
textaudiocc-by-nc-4.0hugging-face
nimaaaAI
MOSS-TTS-Nano-Persian

MOSS-TTS-Nano Persian — компактная модель синтеза персидской речи, созданная NimaaaAI дообучением OpenMOSS-Team/MOSS-TTS-Nano. Модель содержит 117,3 млн параметров и использует авторегрессионную архитектуру MOSS-TTS-Nano вместе с аудиокодеком MOSS-Audio-Tokenizer-Nano; контекст модели — 32 768 токенов. Для дообучения использованы 34 000 персидских записей Mozilla Common Voice 13.0. Модель принимает текст и короткую референсную аудиозапись, позволяя клонировать голос говорящего при чтении текста на фарси. Чекпойнт предназначен для генерации коротких персидских реплик, например уведомлений, голосовых подсказок интерфейса и экспериментального наполнения аудиодатасетов. Он улучшает естественность персидского произношения по сравнению с базовой моделью и рассчитан на запуск на CPU или GPU. Лицензия — Apache-2.0. Типичная длина высказывания ограничена примерно пятью секундами; длинный текст рекомендуется делить на фрагменты. Качество и чистота референсной записи заметно влияют на результат, а эмоциональная выразительность ограничена данными обучения. Модель не предназначена для имитации реальных людей без их согласия или для введения слушателей в заблуждение.

4816авг. 2026ctx32.8K
textapache-2.0hugging-face
neuphonic
neutts-nano-german

NeuTTS Nano German — немецкая модель синтеза речи от Neuphonic, предназначенная для локального запуска на CPU и устройствах с ограниченными ресурсами. Она принимает текст и аудиозапись голоса-образца, а затем озвучивает текст в стиле этого образца, обеспечивая клонирование голоса по нескольким секундам речи. Модель использует компактную языковую модель для генерации речевых токенов и аудиокодек NeuCodec. Для Nano указано около 116,8 млн активных параметров в backbone и около 228,7 млн параметров с учётом связанных эмбеддингов и выходной головы. Доступны квантованные варианты GGUF; карточка также указывает safetensors. Модель предназначена только для немецкого языка, оптимизирована для генерации в реальном времени или быстрее и маркирует выходное аудио водяными знаками. Модель подходит для локальных голосовых помощников, встраиваемых устройств и приложений, где текст и аудио нужно обрабатывать на устройстве. Для работы нужны текст, аудиообразец и espeak-ng; качество клонирования зависит от чистоты и непрерывности образца. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

4.3K25февр. 2026
textaudiootherhugging-face
Nasimbahar
pashto-ghag-yourtts

Pashto Ghag TTS — многоязычная? Нет, модель синтеза речи на пушту, разработанная Nasimbahar. Она использует архитектуру YourTTS в стиле VITS и предназначена для преобразования текста на пушту в речь с выбором одного из 11 голосов. Модель обучена на подготовленном наборе данных объёмом 44,15 часа, включающем записи личного диктора и десяти дикторов Common Voice; частота дискретизации выходного аудио составляет 22 050 Гц. Модель подходит для демонстраций синтеза речи на пушту, исследований и как основа для дальнейшей адаптации под конкретный голос. Это многоголосая опорная модель, а не готовый персональный голос; качество и сходство с выбранным диктором зависят от способа задания голоса. Качество синтеза следует оценивать на слух, а смешанный источник записей не обеспечивает студийного уровня единого голоса. Модель распространяется по лицензии Apache-2.0.

1630апр. 2026
textaudioapache-2.0hugging-face
typhoon-ai
typhoon-whisper-medium-ctc

typhoon-whisper-medium-ctc — тайская модель распознавания и выравнивания речи, разработанная Typhoon AI. Она использует замороженный энкодер Whisper-medium и дообученную Transformer-голову на 29 млн параметров, которая выдаёт посимвольные вероятности CTC. Один проход энкодера позволяет получить транскрипт и временные метки: модель распознаёт речь жадным CTC-декодированием либо выравнивает предоставленный текст с аудио на уровне символов и слов. Обучение проводилось на 1 000 часах GigaSpeech2-th; для сегментации слов используется pythainlp или заданное пользователем разбиение. Модель рассчитана на тайскую речь и не предназначена для других языков. В README указаны CER 6,86% на тесте GigaSpeech2-typhoon и точность временных меток на отдельном тесте выравнивания. Модель распространяется по лицензии Apache-2.0.

5951авг. 2026
textaudioapache-2.0hugging-face
microsoft
VibeVoice-1.5B

VibeVoice-1.5B — модель Microsoft для синтеза выразительной длинной разговорной речи из текста, например выпусков подкастов с несколькими участниками. Это плотная модель семейства VibeVoice для Transformers; она сочетает LLM, которая учитывает контекст и ход диалога, с диффузионным модулем для генерации акустических деталей. В README указано контекстное окно 64K и генерация аудио длительностью до 90 минут с участием до четырёх разных голосов. Модель рассчитана на генерацию английской и китайской речи. Низкочастотные акустические и семантические токенизаторы с частотой 7,5 Гц предназначены для эффективной обработки длинных последовательностей. Модель может ошибаться или выдавать неожиданный и предвзятый результат; она не предназначена для музыки, фоновых звуков, речи на неподдерживаемых языках или перекрывающихся реплик. В README также отмечены риски имитации голосов и дезинформации, а коммерческое и реальное применение без дополнительной проверки не рекомендуется. Лицензия — MIT; заявленное назначение этой версии — исследования и разработка.

630K2.5Kавг. 2025
textaudiomithugging-face
vibevoice
VibeVoice-7B

VibeVoice-7B — модель синтеза речи семейства VibeVoice, разработанная Microsoft; эта копия размещена пользователем на Hugging Face. Она предназначена для создания выразительной длинной разговорной речи, например подкастов, по тексту. Модель сочетает LLM для понимания контекста и структуры диалога с диффузионной головой для генерации акустических деталей; в README описаны непрерывные акустические и семантические токенизаторы с частотой 7,5 Гц. Заявлена генерация аудио длительностью до 90 минут с участием до четырёх говорящих. Модель рассчитана на английский и китайский языки. Она генерирует речь, но не музыку, фоновые звуки или эффекты и не моделирует перекрывающуюся речь. README предостерегает от коммерческого и реального применения без дополнительной проверки, а также указывает на риск предвзятых или неточных результатов и злоупотребления синтетическими голосами. Лицензия репозитория — MIT; README ограничивает заявленное назначение исследовательскими задачами и перечисляет сценарии, для которых модель не предназначена.

11K215сент. 2025
textaudiomithugging-face
pnnbao-ump
VieNeu-TTS-0.3B-q4-gguf

VieNeu-TTS-0.3B-q4-gguf — квантованная версия модели VieNeu-TTS-0.3B для синтеза речи на вьетнамском языке. Модель разработал Phạm Nguyễn Ngọc Bảo; обучение связано с наборами данных VieNeu-TTS-1000h и VieNeu-TTS-140h. Она предназначена для преобразования текста в речь, включая чтение текста, голосовые интерфейсы, чат-ботов реального времени и исследовательские приложения. Модель распространяется в формате GGUF с квантованием Q4_0, занимает около 200 МБ и оптимизирована для работы непосредственно на CPU без выделенного GPU. Заявлена поддержка синтеза в реальном времени на обычных потребительских процессорах, включая офисные ноутбуки и мини-ПК. Доступны стандартные предустановленные голоса и режим zero-shot voice cloning по образцу аудио с текстовой расшифровкой. Для фонемизации обязательно требуется eSpeak NG. Архитектура, точное число параметров базовой модели, длина контекста и дополнительные модальности в README не указаны. К сильным сторонам относятся небольшой размер, низкие требования к оборудованию, высокая скорость CPU-инференса и поддержка клонирования голоса. Ограничения включают специализацию на вьетнамском языке, зависимость от eSpeak NG и отсутствие заявленной поддержки GPU-оптимизированного режима; качество синтеза и клонирования в README количественно не оценено. Модель доступна по лицензии CC BY-NC 4.0: её разрешено использовать в исследовательских, учебных и некоммерческих целях, тогда как коммерческое и корпоративное применение требует предварительного разрешения автора.

128K6янв. 2026
textaudiocc-by-nc-4.0hugging-face
abdelnour131
wav2vec2-base-one-shot-hip-hop-drums-clf-finetuned-gtzan

Модель разработана как дообученная версия yojul/wav2vec2-base-one-shot-hip-hop-drums-clf и предназначена для классификации аудио. Она основана на архитектуре Wav2Vec2ForSequenceClassification и содержит 113,3 млн параметров. Обучение проводилось на датасете GTZAN. На оценочной выборке указана точность 0,74 и значение loss 0,9288. Эти результаты не описывают качество на других наборах данных или в иных условиях. Модель опубликована в формате Safetensors под лицензией Apache-2.0.

490окт. 2024
textapache-2.0hugging-face
IAmNotAnanth
wav2vec2-large-xls-r-300m-sinhala

IAmNotAnanth/wav2vec2-large-xls-r-300m-sinhala — модель автоматического распознавания речи на основе архитектуры Wav2Vec2ForCTC, дообученная автором на базе facebook/wav2vec2-xls-r-300m. Она принимает аудио и предназначена для преобразования речи в текст. Название указывает на настройку для сингальского языка, однако README не содержит сведений о наборе данных и подробно не описывает языковое покрытие. В репозитории указано 402,7 млн параметров, веса представлены в формате PyTorch. Модель опубликована по лицензии Apache-2.0. В приведённых результатах оценки указаны WER 1,0 и eval_loss 5,4599; этих данных недостаточно, чтобы подтвердить качество распознавания для практических сценариев.

751май 2023
textaudioapache-2.0hugging-face
DrishtiSharma
whisper-large-v2-hausa

Drishti Sharma дообучила OpenAI Whisper Large-v2 для автоматического распознавания речи. Модель содержит 905,2 млн параметров и предназначена для преобразования аудио в текст; в метаданных указан язык хауса и набор данных Common Voice 11.0. В README название противоречит идентификатору репозитория: оно говорит о непали, тогда как метаданные указывают хауса, поэтому язык назначения нельзя подтвердить однозначно. На оценочной выборке Common Voice 11.0 приведены Loss 0,5364 и WER 36,5689; это указывает на заметные ошибки распознавания. Модель опубликована в формате PyTorch по лицензии Apache-2.0.

85дек. 2022ctx1K
textaudioapache-2.0hugging-face
m-a-p
ChatMusician-Base

ChatMusician-Base — открытая языковая модель для понимания и генерации музыки, разработанная командой ChatMusician. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров, основанная на LLaMA 2 и дообученная на текстовом представлении музыки ABC. Она принимает и выдаёт текст, включая музыкальную нотацию ABC, без отдельного аудиомодуля; контекст составляет 2048 токенов. Модель предназначена для создания музыкальных партитур по текстовым описаниям, аккордам, мелодиям, мотивам и музыкальным формам, а также для ответов на вопросы о музыке и музыкальной теории. Для обучения использованы корпус MusicPile и 1,1 млн примеров supervised fine-tuning. Карточка сообщает о поддержке английского языка и демонстрирует музыкальные сценарии, но не перечисляет другие поддерживаемые естественные языки. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Модель лучше работает со строгими форматами и закрытыми музыкальными инструкциями; возможны галлюцинации, а обучение преимущественно на ирландской музыке влияет на стилевое разнообразие. Авторы также отмечают слабые способности к обучению в контексте и пошаговому рассуждению, а результаты тестирования музыкального понимания получены в режиме perplexity и могут быть хуже при прямой генерации. Модель не следует использовать как источник музыкального образования.

5117февр. 2024ctx2K
textmithugging-face
nari-labs
Dia2-2B

Dia2-2B — потоковая модель синтеза диалоговой речи, разработанная Nari Labs. Она начинает генерировать аудио после получения первых слов, поэтому подходит для сценариев с низкой задержкой. Выход можно обусловить аудио, чтобы создавать естественные диалоги; модель поддерживает генерацию на английском языке длительностью до двух минут. Модель поставляется в варианте с 2 млрд параметров согласно названию репозитория; карточка указывает формат safetensors и библиотеку dia2. Для запуска README приводит пример с CUDA 12.8 или новее и точностью bfloat16. Результат включает аудиотокены, waveform и временные метки слов. Модель рассчитана на исследовательское и образовательное применение. README запрещает имитировать реальных людей без разрешения, создавать вводящий в заблуждение контент и использовать модель для незаконных или вредоносных целей. Лицензия — Apache-2.0; она не отменяет ограничений использования, установленных авторами.

5.3K187нояб. 2025ctx8.2K
textaudioapache-2.0hugging-face
dare43321
hindi-tts-model-6

Карточка модели dare43321/hindi-tts-model-6 на Hugging Face совпадает с карточкой dare43321/hindi-tts-model-5, поэтому описание составлено по ней. Модель dare43321/hindi-tts-model-5 — дообученная dare43321 версия kenpath/svara-tts-v1. Это плотная LlamaForCausalLM на 3,3 млрд параметров, представленная в формате safetensors; в метаданных также указана поддержка чата. Базовая модель предназначена для преобразования текста в выразительную речь на 18 индийских языках и индийском английском, однако README не уточняет, какие возможности этой базовой модели сохранены после дообучения и как именно следует задавать текст для синтеза. В метаданных указаны тег text-generation, контекстное окно 131 072 токена и английский язык. Данных о речевых выходах, поддерживаемых языках самой производной модели или качестве синтеза нет, поэтому назначение TTS можно считать вероятным по базовой модели, но не подтверждённым для этого чекпойнта. Лицензия — Apache-2.0.

6270авг. 2026ctx131.1K
textapache-2.0hugging-face
Tharshan
indicf5_hindi-english_code_switch

Tharshan разработал Indic Code-Switched TTS — дообученную модель синтеза речи на базе ai4bharat/IndicF5, архитектуры F5-TTS DiT размером 0,3 млрд параметров. Модель предназначена для озвучивания текста на хинди со встроенными английскими словами и стремится произносить такие слова разборчиво. Для обучения использовался корпус OpenSLR-104 с речью на хинди и английском; применялся адаптерный подход с замороженной базовой моделью и QLoRA. Модель принимает текст и аудиообразец с точной расшифровкой, задающий голос и просодию, и генерирует речь. В примерах она лучше базовой модели передаёт английские слова внутри фраз на хинди; чистый английский остаётся ненадёжным, особенно в длинных фразах. Проверки на других индийских языках показывают возможное улучшение произношения английских вставок, но эти языки не были целью обучения, а оценка ограничена небольшим числом примеров. Лицензия репозитория — Apache-2.0. README отдельно запрещает клонировать голос без согласия его носителя. Указанные в карточке языковые теги включают хинди и английский, а также тамильский, бенгальский, гуджарати, каннада, малаялам, маратхи, одия, панджаби и телугу; качество для языков, кроме хинди с английскими вставками, не гарантируется.

2861сент. 2026
textaudioapache-2.0hugging-face
facebook
mms-tts-any

facebook/mms-tts-any — модель синтеза речи на языке Anyin (код any), разработанная Meta в рамках проекта Massively Multilingual Speech. Это отдельный чекпойнт для одного языка из семейства MMS-TTS, построенный на архитектуре VITS и имеющий около 3,5 млн параметров. Модель принимает текст и генерирует речевую аудиоволну; для запуска подходит библиотека Transformers версии 4.33 и выше. VITS объединяет вариационный автоэнкодер, flow-модуль с текстовым энкодером на основе Transformer, декодер в стиле HiFi-GAN и стохастический предиктор длительности. Последний позволяет получать разные ритмические варианты произнесения одного текста, поэтому генерация недетерминирована: для повторяемого результата нужен фиксированный seed. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

6633сент. 2023
textaudiocc-by-nc-4.0hugging-face
facebook
mms-tts-gor

facebook/mms-tts-gor — модель синтеза речи на языке горонтало (gor), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на горонтало. Это отдельный языковой чекпойнт семейства MMS-TTS, построенный на архитектуре VITS: модель сочетает вариационный автоэнкодер, flow-модуль и декодер HiFi-GAN; число параметров — 3,5 млн. Модель поддерживается библиотекой Transformers версии 4.33 и выше. Стохастический предиктор длительности позволяет получать варианты произношения и ритма для одного текста, поэтому для воспроизводимого результата нужно фиксировать seed. Репозиторий содержит веса PyTorch и SafeTensors. Лицензия CC BY-NC 4.0 допускает использование с атрибуцией, но запрещает коммерческое применение.

1050сент. 2023
textaudiocc-by-nc-4.0hugging-face

Задачи профессии

15 задач
139Классификация звуковых событий. — AI анализирует спектральные и временные признаки аудио и относит фрагменты к классам звуковых событий: речи, музыке, сигналам, ударам, шумам или другим заданным категориям. На выходе — метки с временными границами и уверенностью. Качество проверяют по размеченным записям, отдельно оценивая редкие классы, смешанные звуки и условия с сильным фоновым шумом.
140Обнаружение заданного звука в непрерывном аудиопотоке. — Механизм: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение заданного звука в непрерывном аудиопотоке», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
141Определение источника и направления звука. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение источника и направления звука» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
142Разделение смеси на голос, музыку и отдельные инструменты. — Для этой задачи система сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Рабочие входы: текст, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: результат «Разделение смеси на голос, музыку и отдельные инструменты» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
143Удаление фонового шума и акустических артефактов. — Практическая реализация: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Входной контекст включает референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: преобразованный материал по задаче «Удаление фонового шума и акустических артефактов» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
144Восстановление повреждённой или неполной аудиозаписи. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: преобразованный материал по задаче «Восстановление повреждённой или неполной аудиозаписи» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
145Автоматическое выравнивание громкости и динамического диапазона. — AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. К исходным данным относятся аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Автоматическое выравнивание громкости и динамического диапазона» с сохранённым содержанием и журналом значимых изменений. Надёжность оценивают сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
146Генерация музыки по жанру, настроению, структуре и ограничениям. — Для этой задачи система генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: редактируемый артефакт по задаче «Генерация музыки по жанру, настроению, структуре и ограничениям», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
147Генерация звуковых эффектов по текстовому описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Генерация звуковых эффектов по текстовому описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
148Создание аранжировки для заданной мелодии. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: редактируемый артефакт по задаче «Создание аранжировки для заданной мелодии», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
149Продолжение музыкального фрагмента в согласованном стиле. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: редактируемый артефакт по задаче «Продолжение музыкального фрагмента в согласованном стиле», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
150Транскрибирование музыки в ноты или MIDI. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Транскрибирование музыки в ноты или MIDI» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
151Определение темпа, тональности, аккордов и структуры композиции. — Практическая реализация: AI объединяет несколько источников свидетельств и выбирает наиболее обоснованное определение с оценкой уверенности. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение темпа, тональности, аккордов и структуры композиции» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
152Сведение и предварительный мастеринг аудиоматериала. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: преобразованный материал по задаче «Сведение и предварительный мастеринг аудиоматериала» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
153Адаптация длительности музыки под видео без резкого обрыва. — AI строит профиль текущих потребностей и адаптирует содержание, порядок или параметры взаимодействия под конкретного человека. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: адаптированный вариант для «Адаптация длительности музыки под видео без резкого обрыва» с указанием контекста и факторов, определивших персонализацию. Надёжность оценивают по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче. <a id="section-i-10"></a>

0 моделей