/ Профессии
Универсальные способности и операции

I.9Аудио и музыка

В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

АудиоТекст
AI-задач
15
в этой профессии
Подходящих моделей
4 835
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
АудиоТекст

Рекомендованные модели

4 835 моделей
Загрузки
Лайки
Дата выхода
3 271–3 300 из 4 835
Qwen
Qwen-Audio-Chat

Qwen-Audio-Chat — мультимодальная аудиоязыковая модель семейства Qwen, разработанная Alibaba Cloud. Это диалоговая версия Qwen-Audio, полученная инструкционным дообучением; она поддерживает многоходовые диалоги об аудио и принимает аудио и текст, а отвечает текстом. Модель предназначена для понимания и анализа речи, окружающих звуков, музыки и песен. Она поддерживает более 30 аудиозадач и сценарии вроде распознавания и интерпретации речи, ответов на вопросы об аудиозаписях, рассуждений о звуках, анализа нескольких аудио и обсуждения музыки. В README также заявлена поддержка использования внешних инструментов для редактирования речи. В метаданных указаны архитектура QWenLMHeadModel, 11,4 млрд параметров и контекст 2048 токенов. Заявлены поддержка китайского и английского языков и форматы весов safetensors. README описывает сильные результаты на ряде аудиобенчмарков, однако не приводит подробных ограничений и условий лицензии; их нельзя установить по предоставленным данным.

1.4K103нояб. 2023ctx2K
texthugging-face
software-mansion
react-native-executorch-supertonic

Supertonic — набор моделей синтеза речи, экспортированных компанией Software Mansion для библиотеки React Native ExecuTorch. Модели основаны на Supertone/supertonic-3 и представлены в виде программ ExecuTorch формата .pte, готовых к запуску непосредственно на устройстве через React Native ExecuTorch. Модель предназначена для преобразования текста в речь и поддерживает английский, испанский, французский, польский, греческий, индонезийский, китайский, японский, русский, турецкий и ряд других языков, включая немецкий, итальянский, корейский, арабский и украинский. В комплект входят компоненты duration_predictor, text_encoder, vector_estimator и vocoder, а также голосовые стили и данные для десяти вариантов голосов F1–F5 и M1–M5. Опубликованы варианты для бэкендов MLX и XNNPACK с точностью fp32, а также Vulkan с точностью fp16. Размеры компонентов зависят от варианта: например, для XNNPACK vector_estimator занимает около 245 МБ, а vocoder — около 96,7 МБ; Vulkan-варианты компактнее. Бэкенд Core ML экспортирован, но не опубликован из-за проблем, описанных в репозитории. Файлы рассчитаны на ExecuTorch версии 1.4.1; обратная совместимость с более старыми версиями не гарантируется, а гарантий прямой совместимости с будущими версиями нет. Лицензия указана как OpenRAIL. README не содержит количественных оценок качества, требований к производительности устройства или подробностей ограничений лицензии, поэтому эти характеристики требуют дополнительной проверки.

4.7K1июль 2026
textaudioopenrailhugging-face
facebook
s2t-medium-librispeech-asr

S2T-MEDIUM-LIBRISPEECH-ASR — модель распознавания речи семейства Speech to Text Transformer (S2T), опубликованная в репозитории Facebook на Hugging Face. Это последовательная модель encoder-decoder на базе Transformer с 55,5 млн параметров: она принимает акустические признаки речи и авторегрессионно генерирует текстовую расшифровку. Модель предназначена для автоматического распознавания английской речи, прежде всего чтения вслух. Она обучена на корпусе LibriSpeech ASR объёмом около 1000 часов: аудио 16 кГц преобразуется в 80-канальные log-mel признаки, а текст нормализуется в нижний регистр и токенизируется SentencePiece. На тестах LibriSpeech указаны WER 3,5 для clean и 7,8 для other. Модель принимает аудио через акустические признаки и выдаёт текст. Она рассчитана на английскую речь в стиле LibriSpeech; результаты для других языков, шумных бытовых записей и сценариев, отличающихся от чтения, не подтверждены приведёнными данными. Лицензия — MIT.

50411март 2022
textaudiomithugging-face
skit-ai
speechllm-2B

SpeechLLM-2B — мультимодальная модель Skit AI для анализа аудио речи в разговоре. Она объединяет аудиоэнкодер HubertX и языковую модель TinyLlama; общий размер модели составляет 2,1 млрд параметров. Модель дообучена на основе этих компонентов с адаптерами и принимает аудио, а также формирует текстовые предсказания о речевом фрагменте. Модель определяет наличие речи, распознаёт её текст, а также классифицирует пол говорящего, возрастную группу, широкий регион акцента и эмоцию. В карточке указаны английский язык и результаты на LibriSpeech и Common Voice; показатели на Common Voice ниже, чем на тестовых наборах LibriSpeech, особенно для распознавания текста. Метаданные Hugging Face задают задачу feature-extraction. Модель распространяется по лицензии Apache-2.0.

4318июнь 2024
textembeddingapache-2.0hugging-face
dorni
UniVerse-1-Base

UniVerse-1 Base — модель совместной генерации видео и аудио, разработанная авторами UniVerse-1. Она создаёт синхронизированные аудиовизуальные ролики по текстовому запросу и опорному изображению. В основе решения — архитектура DiT и метод stitching of experts, объединяющий блоки предварительно обученных моделей генерации видео и музыки; модель дообучена примерно на 7 600 часах аудиовизуальных данных. Модель предназначена для создания видео с согласованными с изображением и сценой речью, музыкой и фоновыми звуками. Она также может генерировать речь по текстовому запросу с тембром, соответствующим персонажу, звуки музыкальных инструментов и вокал вместе с инструментальным сопровождением. Для работы авторский код требует Python 3.10 или новее, PyTorch и CUDA, а также зависимые модели Wan2.1-T2V-1.3B и ACE-Step-v1-3.5B. В репозитории указаны веса в формате safetensors и лицензия Apache-2.0. В README не приведены размер самой модели, длина контекста и перечень поддерживаемых языков; качество и возможности могут различаться для разных типов аудиовизуальных сцен.

1.6K15сент. 2025
textapache-2.0hugging-face
Seksiyog
VibeVoice-ASR-Streaming-7B

Карточка модели Seksiyog/VibeVoice-ASR-Streaming-7B на Hugging Face совпадает с карточкой komixenon/VibeVoice-ASR-Streaming-7B, поэтому описание составлено по ней. VibeVoice-ASR-Streaming-7B — потоковая модель распознавания речи семейства VibeVoice, представленная в карточке как модель для транскрибации с указанием говорящего. Она обрабатывает поступающую речь и связывает распознанный текст с тем, кто его произнёс; пользовательские горячие слова помогают распознавать имена и специальные термины. Модель поддерживает китайский, английский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский языки. В метаданных указаны архитектура VibeVoice, класс VibeVoiceForASRStreamingTraining, библиотека Transformers и формат safetensors. Размер 7B следует из названия модели. Лицензия — MIT. Карточка направляет к репозиторию microsoft/VibeVoice за кодом и инструкциями по использованию. Подробные сведения о контекстном окне, качестве распознавания и ограничениях в предоставленных материалах отсутствуют.

80сент. 2026ctx131.1K
textaudiomithugging-face
kiranpantha
w2v-bert-2.0-nepali-iteration-test

Это модель автоматического распознавания речи, разработанная Kiran Pantha и дообученная на базе kiranpantha/w2v-bert-2.0-nepali на датасете OpenSLR54. Она преобразует аудиозаписи на непальском языке в текст и предназначена для транскрибации речи. Архитектура основана на Wav2Vec2-BERT, класс модели — Wav2Vec2BertForCTC; размер составляет 402,7 млн параметров. В README указаны результаты оценки на тестовом наборе: loss 0,4058 и WER 0,4307. Модель распространяется по лицензии MIT. Подробные сведения о сценариях применения и ограничениях в карточке не приведены.

180сент. 2024
textaudiomithugging-face
ayameRushia
wav2vec2-large-xls-r-300m-id

ayameRushia/wav2vec2-large-xls-r-300m-id — модель автоматического распознавания речи на архитектуре Wav2Vec2ForCTC, разработанная на основе facebook/wav2vec2-xls-r-300m. Её дообучили на индонезийской части набора Mozilla Common Voice 8.0; размер модели составляет 402,7 млн параметров. Модель преобразует входящую речь на индонезийском языке в текст. В README указаны значения Loss 0,3975 и WER 0,2633 на наборе оценки. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Карточка не описывает дополнительные сценарии применения или ограничения качества.

250март 2022
textaudioapache-2.0hugging-face
AndrewMcDowell
wav2vec2-xls-r-300m-japanese

Andrew McDowell дообучил wav2vec2-xls-r-300m для автоматического распознавания японской речи на наборе Mozilla Foundation Common Voice 8.0 (конфигурация ja). Модель построена на архитектуре Wav2Vec2ForCTC, содержит 402,8 млн параметров и принимает аудио, выдавая текстовые символы каны. При обучении и оценке кандзи преобразовывались в хирагану; модель может выводить хирагану и катакану. Модель подходит для транскрибирования японской речи, в том числе записей, похожих на данные Common Voice. В README указаны CER 23,64% на Common Voice 8.0 и 30,99% на speech-recognition-community-v2/dev_data; для японского текста без пробелов CER уместнее WER. Репозиторий распространяется под лицензией Apache-2.0.

1350март 2022
textaudioapache-2.0hugging-face
bookbot
wav2vec2-xls-r-adult-child-cls

Wav2Vec2 XLS-R Adult/Child Speech Classifier — аудиомодель классификации речи, разработанная Wilson Wongso на основе XLS-R. Модель дообучена на wav2vec2-xls-r-300m для различения речи взрослых и детей. Она принимает аудио и выдаёт класс, определяющий, относится ли речь к взрослому или ребёнку. Модель содержит 402,7 млн параметров, использует архитектуру Wav2Vec2ForSequenceClassification и распространяется в форматах PyTorch и Safetensors. Для оценки автор приводит точность 94,69% и F1 0,9508 на наборе Adult/Child Speech Classification Dataset. Карточка указывает английский язык. Лицензия — Apache-2.0. Данные для обучения были частными, поэтому их состав и репрезентативность проверить нельзя. Автор предупреждает, что модель может наследовать смещения из данных предобучения; результаты классификации не следует считать безошибочным определением возраста говорящего.

2760март 2022
textapache-2.0hugging-face
gagan3012
wav2vec2-xlsr-khmer

Модель gagan3012/wav2vec2-xlsr-khmer — версия Wav2Vec2-Large-XLSR-53, дообученная на кхмерской речи разработчиком репозитория на данных Common Voice и OpenSLR Kh. Это модель распознавания речи с архитектурой Wav2Vec2ForCTC и примерно 402,7 млн параметров; она принимает аудио и выдаёт распознанный текст. Модель предназначена для преобразования кхмерской речи в текст. Для работы входную речь нужно подавать с частотой дискретизации 16 кГц. В README приведены результаты оценки на тестовой выборке Common Voice: WER 24,96% и CER 6,95%; примеры предсказаний в карточке отображаются письмом деванагари, поэтому их соответствие кхмерскому языку неясно. Веса доступны в форматах PyTorch и Flax. Лицензия — Apache-2.0.

302K2март 2022
textaudioapache-2.0hugging-face
shhossain
whisper-base-bn

shhossain/whisper-base-bn — модель распознавания речи на основе Whisper, предназначенная для транскрибации аудиофайлов и речи с микрофона. Карточка предлагает использовать её через библиотеку banglaspeech2text и указывает возможность ускорения вывода на GPU. В метаданных указаны архитектура WhisperForConditionalGeneration, 51,7 млн параметров и формат PyTorch. Модель ориентирована на бенгальский язык; метаданные также отмечают английский. Для обучения или оценки указан Common Voice 11.0, а в README приведён результат WER 46 без дополнительных условий измерения. Лицензия — Apache-2.0.

1892янв. 2023ctx448
textaudioapache-2.0hugging-face
bartelds
whisper-large-v3-turbo-fy-cv22

bartelds/whisper-large-v3-turbo-fy-cv22 — дообученная модель распознавания речи на базе openai/whisper-large-v3-turbo. Она предназначена для транскрибирования фризского языка (fy-NL) и обучена на данных Common Voice 22.0. Модель использует архитектуру Whisper и принимает аудио; размер составляет 905,2 млн параметров. В обучении энкодер был заморожен, адаптировалась часть декодера. В README указаны WER 0,0479 на dev и 0,0574 на test для выборок примерно по часу. Обучающие записи разделены по говорящим относительно dev и test, аудио приведено к 16 кГц, длительность клипов ограничена 30 секундами. Модель рассчитана на голосовые записи, похожие на Common Voice; на радио, телефонной речи и шумном аудио качество может снижаться. Для оформления регистра и пунктуации может понадобиться постобработка. Лицензия — MIT.

1960дек. 2025
textaudiomithugging-face
seastar105
whisper-medium-ko-zeroth

seastar105/whisper-medium-ko-zeroth — дообученная модель распознавания речи на основе openai/whisper-medium, созданная для корейского языка. Она обучена на наборе данных Zeroth Korean и предназначена для преобразования корейской речи в текст. В карточке приведены результаты на наборе оценки: WER 3,6440 и CER 1,4840; размер модели — 455,8 млн параметров, формат весов — PyTorch. Модель подходит для транскрибации корейской речи в сценариях, близких к данным Zeroth Korean. Автор указывает, что существуют другие дообученные модели с ожидаемо более высокой точностью, и рекомендует их вместо этой. Модель распространяется по лицензии Apache-2.0.

8918дек. 2022ctx1K
textaudioapache-2.0hugging-face
onnx-community
whisper-tiny_timestamped

onnx-community/whisper-tiny_timestamped — версия модели openai/whisper-tiny с весами в формате ONNX, подготовленная сообществом onnx-community для совместимости с Transformers.js. Репозиторий предназначен для запуска модели в веб-среде и других сценариях, где требуется поддержка ONNX и Transformers.js. Модель основана на Whisper Tiny, однако в предоставленных данных не указаны подробности её архитектуры, размер, поддерживаемые языки, модальности, максимальная длина контекста и точные задачи. Суффикс timestamped присутствует в идентификаторе модели, но README не содержит описания возможностей работы с временными метками, поэтому их наличие нельзя подтвердить по доступной информации. Ключевое преимущество модели — формат ONNX и совместимость с Transformers.js, что упрощает использование в web-ready приложениях. Ограничения, точные требования к ресурсам, условия лицензирования и дополнительные характеристики в README не указаны. Отдельный репозиторий с ONNX-весами обозначен как временное решение до более широкого распространения WebML.

8.6K1июль 2024ctx1K
textaudiohugging-face
andrewbawitlung
xlsr-300m-mizonal3-E2-lus-v2026.06

xlsr-300m-mizonal3-E2-lus-v2026.06 — модель распознавания речи, разработанная Andrew Bawitlung и дообученная на базе facebook/wav2vec2-xls-r-300m на наборе MiZonal v3.0. В эту версию набора добавлен примерно час разговорной речи. Модель использует архитектуру Wav2Vec2 с CTC-декодером и содержит около 402,7 млн параметров. Модель предназначена для преобразования речи на языке LUS в текст. Эксперимент E2 обучался с аугментацией фонового шума; на тестовом наборе указаны WER 20,3887 и CER 4,0148, а real-time factor — 0,0024. Модель принимает аудио и выдаёт текстовую транскрипцию. Модель распространяется по лицензии Apache-2.0. Результаты относятся к указанному набору оценки; README сообщает, что публикация с подробностями ещё готовится, поэтому качество на других записях не установлено.

50июнь 2026
textaudioapache-2.0hugging-face
Awesome-x
aci-yoruba-phaseX

ACI Yoruba Phase X — модель автоматического распознавания нигерийского языка йоруба в аудио, разработанная авторами репозитория Awesome-x. Это дообученная акустическая модель Wav2Vec2ForCTC размером около 402,7 млн параметров, объединённая с 5-граммовой языковой моделью KenLM и фонетической картой постобработки. В репозитории собраны веса, декодер KenLM и карта. Модель предназначена для транскрибирования речи на йоруба. В README сообщается о WER 7,09% на отложенной выборке из 55 записей AR_Audios после нормализации текста; улучшение относительно предыдущей конфигурации получено настройкой декодирования и более крупным униграммным корпусом, а акустические веса общие с Phase 10. Результат измерен на небольшой выборке из одного датасета, поэтому перед практическим применением качество следует проверить на целевых записях. Модель выпущена под лицензией Apache-2.0.

1.1K1сент. 2026
textaudioapache-2.0hugging-face
oddadmix
cohere-transcribe-arabic-07-2026-dialectal-v2

cohere-transcribe-arabic-07-2026-dialectal-v2 — дообученная Cohere модель распознавания речи на основе CohereLabs/cohere-transcribe-arabic-07-2026. Она предназначена для транскрибации многообразных арабских диалектов и особенно подходит для записей на хиджазском и заливном, египетском, иракском, марокканском, палестинском и ливанском вариантах. Модель содержит 151 млн параметров по метаданным; README указывает размер базовой модели 2,07 млрд параметров. Архитектура — CohereAsrForConditionalGeneration, веса представлены в safetensors. Модель принимает аудио и выдаёт текст без диакритических знаков; контекст — 1024 токена. Чекпойнт обучен на сбалансированном наборе диалектов oddadmix/lahgtna-v3-small. В тестах он улучшает распознавание ряда целевых диалектов, включая заливный и иракский, но в среднем уступает базовой модели и заметно ошибается на тунисском; также указаны ухудшения для ливийского, йеменского и сирийского вариантов. По карточке это экспериментальная специализация, а лицензия — Apache-2.0.

5200июль 2026ctx1K
textaudioapache-2.0hugging-face
ayousanz
kodama-ja-streaming-small

kodama-ja-streaming-small — японская потоковая модель распознавания речи, созданная независимым разработчиком на основе moonshine-ai/moonshine-streaming-small и дообученная на 35 000 часах ReazonSpeech v2. Предназначена для офлайн-транскрибации японской речи с низкой задержкой, в том числе на CPU и устройствах с ограниченными ресурсами. В репозитории есть графы ONNX для развёртывания через ONNX Runtime; заявлены архитектура Moonshine Streaming с энкодером и декодером по 10 слоёв и словарём из 32 768 токенов. Метаданные указывают 58,7 млн параметров, контекст 4096 токенов и форматы ONNX и safetensors. Модель показывает хорошие результаты на некоторых наборах диалоговой и эмоциональной речи и превосходит небольшую японскую модель Vosk в приведённых тестах. Ограничения заметны при шуме, коротких фразах и распознавании имён; потоковый режим уступает офлайн-режиму по точности, а частота галлюцинаций в ряде тестов составляет 0,10–0,12. Это не универсальная замена для японского ASR. Лицензия — Apache-2.0; модель независимая и не является официальным продуктом Moonshine AI или Useful Sensors.

43915авг. 2026ctx4.1K
textaudioapache-2.0hugging-face
mispeech
midashenglm-0.6b-fp32

MiDashengLM-0.6B (MDL-0.6B) — компактная аудиоязыковая модель, разработанная авторами семейства MiDashengLM. Она сочетает языковую основу Qwen3-0.6B с аудиотокенизатором dasheng-base-tokenizer и содержит 0,6 млрд параметров. Модель предназначена для локального распознавания содержания аудио и генерации текстовых описаний; в карточке указана архитектура MiDashengLM, а веса опубликованы в формате safetensors. Модель описывает речь, музыку и окружающие звуки, отвечает на вопросы об аудиозаписи, а также показывает результаты в задачах классификации аудио и распознавания речи. В README представлены предварительные оценки на наборах MECAT, AudioCaps, Clotho, LibriSpeech и других; качество зависит от задачи и набора данных. Поддерживаемые языки по тегам карточки — английский и китайский. Модель распространяется по лицензии Apache-2.0.

6084март 2026ctx131.1K
textapache-2.0hugging-face
handy-computer
moonshine-base-uk-gguf

moonshine-base-uk-gguf — это GGUF-конверсия модели UsefulSensors moonshine-base-uk, подготовленная handy-computer для работы с transcribe.cpp. Модель предназначена для автоматического распознавания украинской речи и преобразует монофонический аудиосигнал PCM с частотой 16 кГц в текстовую транскрипцию. Модель использует архитектуру encoder-decoder Transformer с примерно 62 млн параметров. Аудио обрабатывается трёхслойным стемом Conv1d без применения STFT и mel-фильтров. Доступны варианты F32 размером 248 МБ, F16 размером 132 МБ и Q8_0 размером 77 МБ. На тестовой выборке FLEURS для украинского языка показатель WER составляет около 14,4–14,5%; версия Q8_0 сохраняет качество, близкое к версиям с плавающей точкой. Модель рассчитана на локальное распознавание речи через transcribe.cpp и подходит для офлайн-транскрибации украинских аудиозаписей. Она поддерживает только украинский язык, не выполняет перевод, автоматическое определение языка и не формирует временные метки. Потоковая обработка также не поддерживается, поэтому модель ограничена сценариями пакетной транскрипции. Лицензия MIT унаследована от базовой модели.

9461май 2026
textaudiomithugging-face
handy-computer
moonshine-tiny-gguf

Moonshine tiny — компактная модель автоматического распознавания речи, разработанная Useful Sensors и преобразованная в формат GGUF проектом handy-computer для использования с transcribe.cpp. Модель основана на encoder-decoder Transformer с 27 млн параметров и предназначена для преобразования английской речи в текст. Модель принимает монофонический аудиосигнал в формате 16 кГц PCM напрямую через трёхслойный Conv1d-стем, без использования STFT или mel-признаков. Поддерживается только английский язык; перевод, определение языка и временные метки не поддерживаются. Доступны варианты F32 размером 110 МБ, F16 размером 59 МБ и Q8_0 размером 35 МБ. На тестовой выборке LibriSpeech test-clean показатель WER составляет 4,58% для F32 и F16 и 4,60% для Q8_0. Модель подходит для локальной транскрипции английской речи и сценариев, где важны небольшой размер и работа через transcribe.cpp. Потоковая обработка не поддерживается, а качество может зависеть от акустических условий и отличий аудио от обучающих данных. Распространяется по лицензии MIT, унаследованной от базовой модели UsefulSensors/moonshine-tiny.

1.3K0май 2026
textaudiomithugging-face
victor233
my_awesome_asr_mind_model

my_awesome_asr_mind_model — русскоязычная модель распознавания речи, разработанная как дообучение jonatasgrosman/wav2vec2-large-xlsr-53-russian. Она построена на архитектуре Wav2Vec2 с выходной головой CTC и содержит около 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст; карточка указывает русский язык и библиотеку Transformers. В README приведены результаты оценки: loss 8,6914 и WER 0,9317. Высокий WER указывает на слабое качество распознавания в этой оценке, поэтому перед применением модель следует проверить на целевых аудиоданных. Датасет обучения не раскрыт. Лицензия — Apache-2.0.

190окт. 2024
textaudioapache-2.0hugging-face
Luigi
nemotron-3.5-asr-streaming-0.6b-zhtw

Luigi выпустил потоковую модель распознавания речи Nemotron-3.5-ASR-Streaming-0.6B, дообученную на тайваньском мандаринском варианте китайского языка. Это плотная модель архитектуры FastConformer с RNNT-декодером; репозиторий содержит веса Safetensors для Transformers. В тестах Common Voice zh-TW версия v3 показала CER 9,81%, а на тесте Taiwan-Tongues — 14,85%. Английский результат на небольшом тесте LibriSpeech составил WER 2,79%. Модель предназначена для потоковой расшифровки речи, особенно на тайваньском мандаринском; README также указывает поддержку 25 языков. Она выдаёт упрощённый китайский текст: для традиционного письма README рекомендует преобразование через OpenCC. Модель уступает специализированной китайско-английской ASR-модели в приведённых тестах, слаба на длинных литературных текстах и не выполняет диаризацию или расстановку временных меток. Указана лицензия NVIDIA Open Model License для базовой модели; отдельная лицензия производной модели в метаданных обозначена как other.

651июль 2026
textaudiootherhugging-face
neuphonic
neucodec

NeuCodec — лёгкий нейронный аудиокодек для речи, разработанный Neuphonic. Он кодирует речь в компактные токены и восстанавливает аудио; модель предназначена для подготовки речевых данных и обучения высококачественных моделей преобразования текста в речь и SpeechLM. Кодек использует конечное скалярное квантование (FSQ) с одной кодовой книгой и скоростью около 0,8 кбит/с: 50 токенов в секунду по 16 бит на токен. На вход подаётся аудио с частотой 16 кГц, декодер выдаёт аудио с частотой 24 кГц. FSQ-кодирование также рассчитано на устойчивость к битовым ошибкам в ненадёжных и шумных каналах. По заявлению разработчика, потери при восстановлении почти неслышны; кодек позволяет существенно сжимать речевые датасеты и снижать требования к вычислениям при обучении. Модель основана на развитии X-Codec2.0 и доступна в форматах PyTorch и Safetensors. Выпущена под лицензией Apache-2.0, допускающей коммерческое использование.

53K164июнь 2025
audioapache-2.0hugging-face
pronoobie
piper-voices-hindi

pronoobie/piper-voices-hindi — преобразованная в формат GGUF голосовая модель Piper для синтеза речи на хинди. README показывает запуск через CrispASR с backend Piper и голосом hi_IN-rohan; метаданные связывают репозиторий с rhasspy/piper-voices и указывают лицензию MIT. Модель принимает текст и генерирует аудио. В карточке также заявлен английский язык, однако приведённая команда запуска настроена на хинди. Для работы README требует ffmpeg и CrispASR.

390авг. 2026
textaudiomithugging-face
TeamUNIVA
qwen3_asr_1.7b_ko_beta

TeamUNIVA разработала эту модель как дообученную версию Qwen/Qwen3-ASR-1.7B для автоматического распознавания корейской речи. Она принимает аудио и выдаёт текстовую транскрипцию; для работы используется пакет qwen-asr. На корейских тестах clova_call, common_voice_ko и fleurs_ko модель показала более низкий CER, чем базовая Qwen3-ASR-1.7B. На английском тесте LibriSpeech ухудшение качества описано как незначительное. Оценка корейских бенчмарков проводилась на вручную проверенных транскрипциях с учётом текстовой нормализации и её обратного преобразования. Модель специализируется на корейской речи. Качество для других языков требует отдельной проверки, а результаты в реальных условиях могут отличаться из-за шума и особенностей голосов. В README указан более поздний преемник TeamUNIVA/qwen3_asr_1.7b_ko с лучшими результатами на корейских бенчмарках. Лицензия — Apache-2.0.

6371авг. 2026ctx131.1K
textaudioapache-2.0hugging-face
facebook
s2t-large-librispeech-asr

S2T-LARGE-LIBRISPEECH-ASR — модель Speech to Text Transformer для автоматического распознавания речи, опубликованная в репозитории Facebook на Hugging Face. Это последовательная модель типа encoder-decoder с авторегрессионной генерацией транскрипта; размер — 211,6 млн параметров. На вход подаются речевые признаки: 80-канальные log-Mel фильтры, извлечённые из WAV или FLAC с частотой 16 кГц и нормализованные на уровне высказывания. Текст токенизируется SentencePiece с размером словаря 10 000, приводится к нижнему регистру. Модель предназначена для транскрибирования английской речи. Она обучена на корпусе LibriSpeech ASR объёмом около 1000 часов чтения вслух; для тестовых наборов LibriSpeech указана ошибка WER 3,3 на clean и 7,5 на other. Репозиторий содержит веса PyTorch и TensorFlow. Лицензия — MIT. Результаты относятся к чтению на LibriSpeech и не гарантируют аналогичное качество для разговорной речи, других языков или условий записи.

13510март 2022
textaudiomithugging-face
asapp
sew-d-tiny-100k-ft-ls100h

SEW-D-tiny-100k-ft-ls100h — англоязычная модель распознавания речи от ASAPP Research на архитектуре SEW-D, представленная как вариант SEW-D-tiny. Она преобразует речь в текст и предназначена для транскрибирования аудио; в README также описана более широкая применимость базовой предварительно обученной модели после дообучения для задач идентификации говорящего, классификации намерений и распознавания эмоций. Модель содержит 28,3 млн параметров и принимает аудио с частотой дискретизации 16 кГц; её архитектура основана на идеях wav2vec 2.0 и рассчитана на эффективное распознавание речи. Карточка указывает датасет LibriSpeech ASR и лицензию Apache-2.0. README приводит результаты семейства SEW в исследовании, но не сообщает отдельные метрики именно для этого чекпойнта.

3.6K2март 2022ctx512
textaudioapache-2.0hugging-face
Shinzmann
soro-tts-ibo

Shinzmann/soro-tts-ibo — модель синтеза речи на игбо из системы Soro-TTS для нигерийских языков. Это дообученная версия facebook/mms-tts-ibo на подмножестве ibo_tts набора WAXAL, собранного в рамках инициативы Google Research. По метаданным модель использует архитектуру VITS, библиотеку Transformers и веса Safetensors; в карточке указано 3,6 млн параметров. README приводит другую оценку размера — около 83 млн параметров, поэтому размер модели в источниках расходится. Синтез выполняется с частотой дискретизации 16 кГц. Модель предназначена для преобразования текста на игбо в речь, например для озвучивания новостей и повествовательных текстов. Обучающие записи студийного качества охватывают 20,58 часа аудио и представлены одним или двумя дикторами на язык. В оценке на 20 примерах CER по распознаванию синтезированной речи составил 44,84%; это прокси-оценка разборчивости, а не естественности звучания. Модель воспроизводит голос и акцент обучающих дикторов. Разговорные, неформальные и смешанные языковые тексты могут отличаться от обучающих данных; для корректной передачи тонов игбо важны диакритические знаки. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

2221май 2026
textaudiocc-by-nc-4.0hugging-face

Задачи профессии

15 задач
139Классификация звуковых событий. — AI анализирует спектральные и временные признаки аудио и относит фрагменты к классам звуковых событий: речи, музыке, сигналам, ударам, шумам или другим заданным категориям. На выходе — метки с временными границами и уверенностью. Качество проверяют по размеченным записям, отдельно оценивая редкие классы, смешанные звуки и условия с сильным фоновым шумом.
140Обнаружение заданного звука в непрерывном аудиопотоке. — Механизм: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение заданного звука в непрерывном аудиопотоке», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
141Определение источника и направления звука. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение источника и направления звука» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
142Разделение смеси на голос, музыку и отдельные инструменты. — Для этой задачи система сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Рабочие входы: текст, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: результат «Разделение смеси на голос, музыку и отдельные инструменты» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
143Удаление фонового шума и акустических артефактов. — Практическая реализация: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Входной контекст включает референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: преобразованный материал по задаче «Удаление фонового шума и акустических артефактов» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
144Восстановление повреждённой или неполной аудиозаписи. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: преобразованный материал по задаче «Восстановление повреждённой или неполной аудиозаписи» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
145Автоматическое выравнивание громкости и динамического диапазона. — AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. К исходным данным относятся аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Автоматическое выравнивание громкости и динамического диапазона» с сохранённым содержанием и журналом значимых изменений. Надёжность оценивают сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
146Генерация музыки по жанру, настроению, структуре и ограничениям. — Для этой задачи система генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: редактируемый артефакт по задаче «Генерация музыки по жанру, настроению, структуре и ограничениям», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
147Генерация звуковых эффектов по текстовому описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Генерация звуковых эффектов по текстовому описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
148Создание аранжировки для заданной мелодии. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: редактируемый артефакт по задаче «Создание аранжировки для заданной мелодии», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
149Продолжение музыкального фрагмента в согласованном стиле. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: редактируемый артефакт по задаче «Продолжение музыкального фрагмента в согласованном стиле», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
150Транскрибирование музыки в ноты или MIDI. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Транскрибирование музыки в ноты или MIDI» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
151Определение темпа, тональности, аккордов и структуры композиции. — Практическая реализация: AI объединяет несколько источников свидетельств и выбирает наиболее обоснованное определение с оценкой уверенности. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение темпа, тональности, аккордов и структуры композиции» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
152Сведение и предварительный мастеринг аудиоматериала. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: преобразованный материал по задаче «Сведение и предварительный мастеринг аудиоматериала» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
153Адаптация длительности музыки под видео без резкого обрыва. — AI строит профиль текущих потребностей и адаптирует содержание, порядок или параметры взаимодействия под конкретного человека. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: адаптированный вариант для «Адаптация длительности музыки под видео без резкого обрыва» с указанием контекста и факторов, определивших персонализацию. Надёжность оценивают по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче. <a id="section-i-10"></a>

0 моделей