I.9Аудио и музыка
В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 835 моделейЭто мультиязычная модель распознавания речи на непали, разработанная Suman Paudel и созданная дообучением OpenAI Whisper Large v3 Turbo. Архитектура — авторегрессионный encoder–decoder Whisper; метаданные указывают 905,2 млн параметров, а в README приведена оценка 809 млн. Модель принимает аудио и выдаёт текст на непали; при обучении использовались записи с частотой 16 кГц в моно и транскрипции, нормализованные в NFC. Модель предназначена для автоматической транскрипции непальской речи. На тестовом наборе OpenSLR SLR54 указаны WER 14,76% и CER 3,48%; на FLEURS — 39,56% и 13,7%, на Common Voice 25.0 — 48,35% и 12,9%. Время обработки на NVIDIA L4 зависит от набора данных: указанный RTF составляет 0,0460–0,0979. Обучение проводилось только на чтении вслух. Точность на спонтанной разговорной речи, смешанной непали-английской или непали-хинди речи и диалектах не оценивалась; при декодировании внешняя языковая модель не используется. Лицензия CC-BY-NC-4.0 разрешает некоммерческое использование с соблюдением её условий.
Qwen3-ForcedAligner-0.6B-hf — модель принудительного выравнивания речи от команды Qwen. Она принимает аудио и готовую расшифровку, а затем предсказывает временные метки для её единиц; распознавать речь для получения текста может отдельная ASR-модель. Модель поддерживает китайский, английский, кантонский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский языки и выравнивает аудио длительностью до пяти минут. Модель относится к семейству Qwen3-ASR и использует архитектуру Qwen3ASRForTokenClassification. Нерегрессионный режим выполнения делает её подходящей для пакетной обработки аудио; в README также описано ускорение с помощью torch.compile. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0. Для работы требуется аудио и текстовая транскрипция, полученная заранее, например, с помощью Qwen3-ASR или другой системы распознавания речи. Модель предназначена для разметки времени произнесённых слов или других единиц, а не для самостоятельного распознавания речи; в README также не заявлена поддержка иных типов аудио, кроме речи.
Sinai Voice AR STT — модель распознавания арабской речи и преобразования её в текст, разработанная Bakrianoo. Это дообученная версия facebook/wav2vec2-xls-r-300m на арабской части набора Mozilla Common Voice 8.0. Архитектура Wav2Vec2ForCTC, размер — 402,7 млн параметров; модель принимает аудио и выдаёт текст на арабском языке. Модель предназначена для автоматической транскрибации арабской речи. В README приведены результаты оценки на тестовой выборке Common Voice 8.0: WER 0,181 и CER 0,049. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.
Это англоязычная модель автоматического распознавания речи (ASR) в формате GGUF, преобразованная для использования с CrispASR на основе модели nvidia/stt_en_fastconformer_ctc_large, опубликованной NVIDIA. Репозиторий выполнил только конвертацию и/или квантизацию весов: обучение, дообучение, объединение моделей, дистилляция и изменение архитектуры или словаря не проводились. Модель предназначена для преобразования английской речи в текст, в том числе при локальном запуске через CrispASR. Архитектура включает 18-слойный NeMo FastConformer-энкодер и голову Conv1d CTC; используются d_model 512, 8 attention heads, словарь SentencePiece из 1024 элементов и 80 log-mel признаков. Размер модели составляет около 115 млн параметров. Доступны варианты F16 размером 222 МБ, Q8_0 размером 132 МБ, Q5_0 размером 95 МБ и Q4_K размером 83 МБ; Q4_K указан как рекомендуемый. К сильным сторонам относятся компактные квантизованные варианты, поддержка GGUF и адаптация для эффективного локального распознавания речи. Ограничения: модель поддерживает только английский язык, а сведения о точности, устойчивости к шуму, задержке и максимальной длительности контекста в карточке не указаны. Модель распространяется по лицензии CC BY 4.0; права и условия исходной модели NVIDIA сохраняются.
BuzzASR/turkish — специализированная модель распознавания турецкой речи, созданная в рамках набора BuzzASR и дообученная разработчиками проекта на базе openai/whisper-large-v3. Это плотная модель WhisperForConditionalGeneration примерно с 905,2 млн параметров, использующая библиотеку Transformers и формат safetensors. Она принимает аудио и выдаёт текстовую транскрипцию; конфигурация генерации уже содержит подсказку языка и задачи, поэтому отдельный параметр языка не требуется. Модель предназначена для автоматической транскрибации речи на турецком языке. В тестах на FLEURS и Common Voice 25 авторы сообщают CER 2,0% и 4,67% соответственно, а на объединённом наборе — CER 4,0% и WER 12,44%; эти результаты относятся к указанным тестовым выборкам и не гарантируют такое же качество на других данных. Модель монолингвальная, поэтому не предназначена для распознавания других языков; качество на иных тематиках, акцентах и диалектах может отличаться. Лицензия — MIT.
BuzzASR/urdu — одноязычная модель автоматического распознавания речи на урду, разработанная в рамках набора BuzzASR и дообученная из openai/whisper-large-v3. Она принимает аудио и генерирует текстовую транскрипцию; модель построена на архитектуре Whisper large-v3 и содержит 905,2 млн параметров. Для распознавания используется токенизатор Whisper, а языковая и задачная подсказка встроена в конфигурацию генерации. Модель предназначена для транскрибации речи на урду. На тесте FLEURS указаны CER 7,5% и WER 21,8%; на объединённом тесте — CER 9,24% и WER 26,77%. Обучение использовало FLEURS и текстовые данные корпуса Goldfish. Модель оценивалась на тестовых разделах FLEURS и Common Voice, поэтому качество на других тематиках, диалектах и акустических условиях может отличаться. Лицензия — MIT.
Kotib/uzbek_stt_v1 — модель автоматического распознавания речи, разработанная командами Kotibai и Rubai и дообученная на базе OpenAI Whisper Medium. Она принимает аудио и преобразует узбекскую речь в текст; модель рассчитана прежде всего на узбекский язык и латинскую письменность, включая некоторые русские заимствования, произнесённые в узбекской речи. Архитектура Whisper, 455,8 млн параметров; модель использует формат safetensors и библиотеку Transformers. Для обучения использовали около 1 600 часов узбекского аудио, а оценку провели на 1 864 примерах из восьми тестовых наборов. В карточке указана общая доля ошибок WER 16,7%; на чистой речи — около 6–11%, на шумной или дополненной — около 12–24%. Модель подходит для расшифровки речи, диктовки, голосовых помощников и создания субтитров. Качество снижается при сильном шуме и частом переключении между языками; модель оптимизирована для узбекского. Лицензия — Apache-2.0.
Vekol-STT Sorani — модель распознавания речи, разработанная Revge в рамках проекта Vekol и дообученная на базе OpenAI Whisper Small. Она преобразует аудио на центральнокурдском языке (сорани) в текст и рассчитана на автономную работу на CPU, в том числе на ноутбуках. Модель содержит 153,1 млн параметров по метаданным; в карточке README указан размер базовой Whisper Small — 244 млн параметров. Доступны форматы ONNX и Safetensors, предусмотрено использование через ONNX Runtime или Transformers/PyTorch. Обучение проводилось на Common Voice 25.0 для ckb и FLEURS для ckb_iq. На тестовой выборке Common Voice с разделением по говорящим авторы сообщают WER 15,5% и CER около 3% без учёта пробелов. Для нормализации текста удаляются диакритические знаки, ZWNJ и татвил, а также выполняется сведение вариантов курдских букв и цифр. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
NhutP/ViWhisper-medium — модель распознавания вьетнамской речи, созданная авторами репозитория путём дообучения Whisper medium от OpenAI. Она принимает аудио и выдаёт текст; модель доступна через Transformers и подходит для транскрибирования записей и потоков речи. В обучении использовано в общей сложности 1308 часов данных из VSV-1100, Common Voice 14, VIVOS, VLSP2021 и синтетических примеров, созданных системой синтеза речи. Архитектура — WhisperForConditionalGeneration, размер — 455,8 млн параметров. В карточке приведены результаты WER на нескольких тестовых наборах: от 4,69 на VIVOS до 28,76 на VLSP2020-T2. Эти показатели зависят от набора данных и не гарантируют такого же качества на других записях. Для запуска в примере используется аудио с частотой дискретизации 16 кГц; указана обработка фрагментами до 30 секунд. Модель распространяется по лицензии MIT.
oyemade/w2v-bert-2.0-hausa-CV17.0 — модель распознавания речи, дообученная на Hausa из Common Voice 17.0 на базе facebook/w2v-bert-2.0. Она использует архитектуру Wav2Vec2-BERT с CTC-декодированием и содержит около 402,7 млн параметров. Предназначена для преобразования аудиозаписей на хауса в текст; в README указана оценка WER 0,0695 на наборе оценки. Модель принимает аудио и выдаёт текст. Репозиторий содержит веса в формате Safetensors. Лицензия — MIT. Оценка качества приведена для набора оценки Common Voice 17.0 и не гарантирует такой же результат на других акцентах, условиях записи или предметных областях.
ceyda/wav2vec2-base-760-turkish — модель распознавания речи на турецком языке, разработанная на основе ceyda/wav2vec2-base-760 и дообученная на обучающей и валидационной выборках Common Voice. Это архитектура Wav2Vec2 с CTC-декодированием, содержащая 113,3 млн параметров. Модель принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст; её можно использовать без языковой модели. Модель подходит для транскрибации турецкой речи и оценки систем распознавания на тестовой выборке Common Voice. В README приведены результаты на этой выборке: WER 22,60 и CER 6,05. Модель распространяется по лицензии Apache-2.0.
NTQAI разработала эту модель распознавания японской речи на основе facebook/wav2vec2-large-xlsr-53, дообучив её на Common Voice, JSUT, TEDxJP и других открытых данных. Это трансформер Wav2Vec2 с архитектурой Wav2Vec2ForCTC и примерно 404,9 млн параметров; модель принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст на японском языке. Модель предназначена для автоматической транскрибации японской речи. В приведённой оценке на тестовой части Common Voice указаны WER 73,10% и CER 18,15%, поэтому результаты могут требовать проверки и исправления, особенно в сценариях, где важна высокая точность. В README не указана лицензия.
AigizK/wav2vec2-large-mms-1b-tatar-v2 — модель распознавания речи на основе архитектуры wav2vec2, дообученная из facebook/mms-1b-all для татарского языка. Она принимает аудио и преобразует речь в текст; в метаданных указано 1,3 млрд параметров. На оценочном наборе модель показала WER 0,1031 и loss 0,3343, однако сведения о наборе данных и условиях оценки отсутствуют. Модель распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.
wav2vec2-large-xls-r-300m-lithuanian — модель распознавания литовской речи, дообученная infinitejoy на базе facebook/wav2vec2-xls-r-300m на литовской части Common Voice 7.0. Это аудиомодель на архитектуре Wav2Vec2ForCTC с 402,7 млн параметров, предназначенная для преобразования речи в текст. В README приведены результаты на тестовой выборке: WER 0,2486 и loss 0,1722. Модель подходит для транскрибирования записей и голосовых фрагментов на литовском языке. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Подробные сведения о рекомендуемых условиях применения и ограничениях в карточке отсутствуют.
jonatasgrosman/wav2vec2-large-xlsr-53-arabic — модель распознавания арабской речи, созданная Jonatas Grosman на основе facebook/wav2vec2-large-xlsr-53. Модель семейства wav2vec2 с архитектурой Wav2Vec2ForCTC содержит 402,7 млн параметров и принимает аудио с частотой дискретизации 16 кГц, преобразуя его в текст на арабском языке. Модель дообучена на обучающей и валидационной частях Common Voice 6.1 и Arabic Speech Corpus. В оценке на тестовых данных Common Voice для неё указаны WER 39,59% и CER 18,18%; результаты зависят от набора данных и процедуры оценки. Подходит для преобразования арабской речи в текст и транскрибирования аудиозаписей. Распространяется по лицензии Apache-2.0.
facebook/wav2vec2-large-xlsr-53-spanish — модель распознавания испанской речи, опубликованная Facebook. Она основана на архитектуре Wav2Vec2 и имеет около 402,7 млн параметров. Модель принимает аудио и выдаёт текстовую транскрипцию; в карточке указана оценка 17,6% на тестовой части Common Voice для испанского языка. Модель предназначена для автоматической транскрипции испанской речи, например записей и голосовых сообщений. Доступны веса в форматах PyTorch и Flax. Лицензия — Apache 2.0. README сообщает результат оценки, но не уточняет, какой именно метрикой он измерен.
Модель wannaphong/wav2vec2-large-xlsr-53-th-cv8-deepcut — дообученная версия wav2vec2-large-xlsr-53 для распознавания тайской речи. Её разработал Wannaphong на основе Common Voice V8 с добавлением данных Common Voice V7; для целевого текста использована предварительная токенизация deepcut. Архитектура — Wav2Vec2ForCTC, около 402,7 млн параметров, веса доступны в формате PyTorch. Модель предназначена для преобразования тайской аудиозаписи в текст. В тестах на наборах Common Voice V7 и V8 она показала меньшие WER и CER, чем приведённые в README базовые сравнения; результат зависит от способа токенизации текста. Лицензия — Apache-2.0. Ограничения: оценка приведена только на тестовых наборах Common Voice, поэтому качество на других источниках аудио не установлено.
Карточка модели ccoreilly/wav2vec2-large-xlsr-catala на Hugging Face совпадает с карточкой softcatala/wav2vec2-large-xlsr-catala, поэтому описание составлено по ней. Модель Wav2Vec2-Large-XLSR-Català разработана сообществом Softcatalà как дообученная версия facebook/wav2vec2-large-xlsr-53 для распознавания речи на каталанском языке. Она использует архитектуру Wav2Vec2ForCTC и содержит 402,7 млн параметров. Модель преобразует входную речь в текст и предназначена для транскрибирования каталанской речи, в том числе записей из корпусов Common Voice и ParlamentParla. Для работы аудио следует подавать с частотой дискретизации 16 кГц; языковая модель для описанного сценария не обязательна. В README приведены значения WER 6,92% на тестовом разделении CV+ParlamentParla, 12,99% на Google Crowdsourced Corpus и 13,23% на аудиокниге «La llegenda de Sant Jordi». Авторы предупреждают, что разделение Common Voice 6.1 пересекается с обучающими и оценочными данными: оценка на тестовом наборе CV будет смещённой. Модель распространяется по лицензии Apache-2.0.
xsway разработал wav2vec2-large-xlsr-georgian — модель распознавания речи на грузинском языке, полученную дообучением facebook/wav2vec2-large-xlsr-53 на данных Common Voice. Она принимает аудио и преобразует речь в текст; для распознавания входной сигнал должен иметь частоту дискретизации 16 кГц. Модель основана на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров. В README приведён результат 45,28% на тестовой части грузинского Common Voice, однако метрика не уточнена. Модель распространяется по лицензии Apache-2.0.
Amiran13/wav2vec2-large-xlsr-georgian_v1 — модель распознавания речи на базе wav2vec 2.0, дообученная разработчиком Amiran13 на основе facebook/wav2vec2-large-xlsr-53. Она принимает аудио и преобразует речь в текст; архитектура — Wav2Vec2ForCTC, размер — 402,7 млн параметров. README сообщает о результате WER 0,2605 на оценочном наборе, но не раскрывает его состав и язык обучения явно; грузинский язык следует из названия модели. Модель предназначена для автоматической транскрипции речи. Распространяется под лицензией Apache-2.0. Карточка не описывает требования к аудио, условия применения и прочие ограничения.
skylord/wav2vec2-large-xlsr-hindi — модель распознавания речи, разработанная на основе facebook/wav2vec2-large-xlsr-53 и дообученная для хинди. Она преобразует аудиозапись речи в текст и подходит для транскрибации записей на хинди без отдельной языковой модели. Модель использует архитектуру Wav2Vec2ForCTC и содержит 402,7 млн параметров. Для входного аудио требуется частота дискретизации 16 кГц. При дообучении использовались Common Voice, Indic TTS–IITM и IIITH Indic Speech; автор сообщает о WER 17,23% на пользовательском тестовом наборе и 56,46% на тесте Common Voice Hindi. Модель лицензирована по Apache-2.0. Качество заметно различается между тестовыми наборами; в README также отмечен перекос Common Voice в сторону мужских голосов, поэтому точность может зависеть от состава аудио, акцента и диктора.
m3hrdadfi/wav2vec2-large-xlsr-lithuanian — акустическая модель распознавания литовской речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на обучающей и валидационной выборках Common Voice. Она принимает аудио с частотой дискретизации 16 кГц и выдаёт распознанный текст; архитектура — Wav2Vec2ForCTC, размер — 402,7 млн параметров. Модель предназначена для автоматической транскрипции литовской речи, в том числе без отдельной языковой модели. В оценке на тестовых данных Common Voice указана метрика WER 34,66%. Репозиторий содержит веса PyTorch и Flax. Лицензия — Apache-2.0.
wav2vec2-large-xlsr-mvc-swahili — модель автоматического распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53. Она предназначена для преобразования аудиозаписей на суахили в текст и обучена на данных Common Voice 13.0. Модель использует архитектуру Wav2Vec2ForCTC, содержит около 402,7 млн параметров и принимает аудио, выдавая текст. Базовая модель предварительно обучена на речи 53 языков. В README отмечена проблема со словарём: при обучении не учли некоторые специальные символы, поэтому распознавание таких символов может работать некорректно. Модель распространяется по лицензии Apache-2.0.
Wikidepia/wav2vec2-xls-r-300m-indonesian — модель распознавания речи на индонезийском языке, разработанная Wikidepia на основе facebook/wav2vec2-xls-r-300m и дообученная на Common Voice 8.0 и MagicHub Indonesian Conversational Speech Corpus. Она принимает аудио и преобразует речь в текст; подходит для расшифровки записей и разговорной речи на индонезийском языке. Модель построена на архитектуре Wav2Vec2 с классификационной головой CTC и содержит около 402,7 млн параметров. Доступна в формате PyTorch, задача в Hugging Face указана как automatic-speech-recognition. Распространяется по лицензии Apache-2.0. Карточка не приводит метрик качества или подробностей об условиях записи, поэтому точность для конкретных акцентов, шумов и речевых ситуаций по этим данным оценить нельзя.
DrishtiSharma/wav2vec2-xls-r-300m-kk-n2 — модель распознавания речи, дообученная на базе facebook/wav2vec2-xls-r-300m на казахской части набора Mozilla Common Voice 8.0. Она принимает аудио и преобразует речь на казахском языке в текст; архитектура — Wav2Vec2ForCTC семейства wav2vec2, размер — 402,7 млн параметров. На тестовой оценке автор сообщает WER 0,451 и loss 0,7149. Модель распространяется по лицензии Apache-2.0.
mikr/whisper-large-czech-cv11 — дообученная модель автоматического распознавания речи на базе Whisper Large от OpenAI. Она обучена на чешской части датасета Mozilla Common Voice 11.0 и предназначена для транскрибирования чешской речи в текст. В архитектуре WhisperForConditionalGeneration около 905,2 млн параметров; веса доступны в форматах PyTorch и Safetensors. На тестовой выборке автор приводит WER 10,8278 и loss 0,2528. Модель распространяется по лицензии Apache-2.0.
RedHatAI/whisper-large-v3-quantized.w8a8 — квантизированная версия модели openai/whisper-large-v3, разработанная Neural Magic. Это аудио-текстовая модель распознавания речи, преобразующая аудиовход в текст. Модель предназначена для автоматической транскрипции речи и эффективного инференса, в том числе при развертывании через vLLM и его OpenAI-совместимый сервер. В README явно указана поддержка английского языка. Архитектура соответствует Whisper large-v3; точное число параметров и максимальная длина контекста в README не указаны. Веса и активации квантизированы в INT8 по схеме W8A8, что ориентировано на снижение вычислительных и ресурсных затрат при инференсе. Модель готова к использованию с vLLM версии 0.5.2 и выше и поддерживает обработку аудиоданных в мультимодальном запросе. README не содержит количественной оценки влияния квантизации на точность и подробностей об ограничениях качества. Модель распространяется по лицензии Apache 2.0.
Chillarmo/whisper-large-v3-turbo-armenian — модель распознавания армянской речи, разработанная Movses Movsesyan и дообученная на базе openai/whisper-large-v3-turbo на наборе Chillarmo/common_voice_20_armenian. Она преобразует аудио с армянской речью в текст и предназначена для транскрибации записей, создания субтитров, голосовых интерфейсов и анализа разговоров. Архитектура Whisper Large v3 Turbo использует Transformer-энкодер для обработки мел-спектрограмм и Transformer-декодер для генерации текста; размер модели — 905,2 млн параметров. Модель рассчитана на армянский язык и использует библиотеку Transformers. В README приведены результаты оценки на отложенной выборке того же датасета: WER 15,31%, CER 2,86% и точное совпадение для 42,73% высказываний. Качество может снижаться на шумных записях, при диалектных различиях и в областях, отличающихся от обучающих данных; для критически важных решений требуется проверка человеком. Модель требует больше вычислительных ресурсов, чем меньшие варианты Whisper. Лицензия — Apache 2.0.
JackyHoCL/whisper-large-v3-turbo-cantonese-yue-english — дообученная модель Jacky Ho на базе Whisper Large v3 Turbo от OpenAI для автоматического распознавания речи. Она предназначена прежде всего для транскрибации кантонской речи, в том числе в сочетании с английским; автор приводит примеры потокового распознавания и сообщает об оценках CER на тестовых наборах Common Voice и очищенной смешанной кантонско-английской речи. Модель построена на архитектуре WhisperForConditionalGeneration, содержит около 905,2 млн параметров и доступна в формате safetensors для Transformers. Для кантонского с английским README рекомендует языковой код yue; код zh указан для сценария с кантонским, мандаринским и английским. Карточка описывает обучение на Common Voice 16.1, Common Voice 17.0 и наборе очищенной смешанной кантонско-английской речи. Результаты CER в README различаются между датами и наборами данных, поэтому приведённые оценки не гарантируют качество на других записях. Автор отмечает необходимость улучшить распознавание китайского и работу с фоновой шумовой средой; упоминается отдельная версия с обнаружением шума. Лицензия — MIT.
sadrasa97/whisper-large-v3-turbo-fa — модель автоматического распознавания речи, созданная дообучением OpenAI Whisper Large V3 Turbo на персидском языке (фарси). Она принимает аудио и преобразует речь в текст; архитектура — WhisperForConditionalGeneration, библиотека — Transformers. В метаданных также указана поддержка английского языка. Модель предназначена для транскрибации персидской речи и может применяться в системах преобразования аудиозаписей в текст. Базовая модель Whisper Large V3 Turbo — ускоренная мультиязычная модель распознавания речи. Модель распространяется по лицензии Apache-2.0.