/ Профессии
Универсальные способности и операции

I.9Аудио и музыка

В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

АудиоТекст
AI-задач
15
в этой профессии
Подходящих моделей
4 835
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
АудиоТекст

Рекомендованные модели

4 835 моделей
Загрузки
Лайки
Дата выхода
4 351–4 380 из 4 835
Systran
faster-distil-whisper-medium.en

Это конверсия модели distil-whisper/distil-medium.en в формат CTranslate2, опубликованная Systran для распознавания речи. Её можно запускать через CTranslate2 и совместимые проекты, включая faster-whisper. Модель принимает аудио и выдаёт текстовую транскрипцию на английском языке. Веса сохранены в FP16; при загрузке в CTranslate2 можно выбрать другой тип вычислений через параметр compute_type. Репозиторий распространяется по лицензии MIT.

123K4янв. 2024
textaudiomithugging-face
openai
whisper-large-v3

Whisper large-v3 — мультиязычная модель распознавания речи на основе Transformer encoder-decoder, разработанная OpenAI. Она предназначена для транскрибирования аудио на исходном языке и перевода речи в текст на другом языке, включая перевод на английский. Модель содержит 905,2 млн параметров; по сравнению с предыдущими версиями использует спектрограммы с 128 Mel-частотными полосами и включает отдельный токен для кантонского языка. Модель обучалась на слабой разметке и псевдоразмеченных аудиоданных и рассчитана на работу с разными языками, акцентами, шумом и предметными областями. При обработке длинных записей требуется последовательная или сегментированная обработка: рецептивное поле модели составляет 30 секунд. Лицензия — Apache-2.0. Возможны ошибки транскрибации и генерация текста, отсутствующего в аудио; качество неодинаково для разных языков, акцентов и диалектов и ниже для языков с малым объёмом обучающих данных. Архитектура также может порождать повторяющийся текст.

3.7M6.6Kнояб. 2023
textaudioapache-2.0hugging-face
OpenVINO
whisper-large-v3-turbo-int8-ov

Это мультиязычная модель распознавания речи Whisper large-v3-turbo, подготовленная OpenVINO и сжатая до INT8 с помощью NNCF. Она преобразует аудио в текст и подходит для транскрибирования речи на множестве языков, включая русский и английский. В основе — Whisper large-v3-turbo, дообученная и прореженная версия Whisper large-v3 с четырьмя слоями декодера вместо 32. Это ускоряет распознавание, при этом возможно небольшое снижение качества. Модель поставляется в формате OpenVINO IR; для запуска требуются OpenVINO 2026.1.0 или новее и Optimum Intel 1.27.0 или новее. Модель распространяется по лицензии MIT. В README ограничения отсылают к карточке исходной модели; конкретные ограничения здесь не перечислены.

3.4K4май 2026
textaudiomithugging-face
OpenVINO
whisper-large-v3-turbo-int4-ov

Это мультиязычная модель распознавания речи Whisper large-v3-turbo, представленная Intel в формате OpenVINO IR с весами, сжатыми до INT4. Она преобразует аудио в текст и подходит для локального инференса через OpenVINO и Optimum Intel; совместимость заявлена с OpenVINO 2026.1.0 и новее и Optimum Intel 1.27.0 и новее. Модель основана на OpenAI/whisper-large-v3-turbo и содержит около 905,2 млн параметров. В исходной архитектуре Whisper large-v3-turbo число слоёв декодера сокращено с 32 до 4, что ускоряет распознавание с небольшим снижением качества; дополнительное сжатие весов выполнено в режиме INT4_ASYM с размером группы 128. Поддерживаются многие языки, включая русский и английский. Модель распространяется по лицензии MIT.

8451май 2026
textaudiomithugging-face
NbAiLab
nb-whisper-small

NB-Whisper Small — модель распознавания речи семейства Whisper, разработанная NB AI-Lab при Национальной библиотеке Норвегии и дообученная на основе openai/whisper-small. Она предназначена для транскрибирования речи и перевода аудио, в частности для норвежского букмола, норвежского нюнорска и английского. Модель содержит 153,1 млн параметров по метаданным; README указывает 244 млн параметров для версии Small. Архитектура — WhisperForConditionalGeneration, запуск возможен через Transformers; доступны форматы PyTorch, Safetensors, ONNX и Flax. Модель обучалась 250 тысяч шагов на наборе из 8 млн аудиофрагментов длительностью до 30 секунд, суммарно около 66 тысяч часов речи. Для обработки длинных записей README рекомендует разбиение на фрагменты примерно по 28 секунд; увеличение beam size может повысить точность, но требует больше времени и памяти. Лицензия — Apache 2.0. Разработчики предупреждают о возможных смещениях и искажениях и возлагают ответственность за оценку рисков при применении на пользователей.

2.5K2февр. 2024ctx1K
textaudioapache-2.0hugging-face
NbAiLab
nb-whisper-medium

NB-Whisper Medium — модель распознавания речи, разработанная NB AI-Lab Национальной библиотекой Норвегии на основе OpenAI Whisper Medium. Это плотная encoder-decoder модель семейства Whisper с 455,8 млн параметров, предназначенная для преобразования речи в текст и перевода речи. Она обучалась на корпусах норвежской речи; карточка также указывает поддержку норвежского букмола, норвежского нюношка и английского языка. Модель подходит для расшифровки аудиозаписей, включая длинные файлы, и может формировать временные метки для предложений и слов. Для более длинных записей README рекомендует обработку фрагментами около 28 секунд; увеличение beam size может повысить точность ценой скорости и памяти. Для эффективной локальной работы с версией Medium рекомендуется GPU. Лицензия — Apache 2.0.

9964февр. 2024ctx1K
textaudioapache-2.0hugging-face
pyannote
speaker-diarization-3.0

pyannote/speaker-diarization-3.0 — открытый конвейер для автоматической диаризации речи, разработанный Séverin Baroudi с использованием pyannote.audio 3.0.0. Модель определяет временные интервалы речи и связывает их с отдельными говорящими, формируя разметку Annotation. Она предназначена для анализа разговоров, встреч, интервью, совещаний и других многоголосых аудиозаписей, в том числе как этап подготовки данных для автоматического распознавания речи. Конвейер принимает монофонический звук с частотой 16 кГц; стерео- и многоканальные записи автоматически сводятся в моно, а аудио с другой частотой дискретизации пересчитывается в 16 кГц. В состав входят автоматическое обнаружение речи, обнаружение смены говорящего и обработка перекрывающейся речи. Количество говорящих обычно определяется автоматически, но его можно задать или ограничить параметрами min_speakers и max_speakers. Обучение проводилось на комбинации наборов AISHELL, AliMeeting, AMI, AVA-AVD, DIHARD, Ego4D, MSDWild, REPERE и VoxConverse. Сильные стороны модели — полностью автоматическая обработка без ручного VAD и обязательного указания числа говорящих, поддержка перекрывающейся речи и возможность ускорения на GPU. В README указано, что на Nvidia Tesla V100 и Intel Cascade Lake обработка занимает примерно 1,5 минуты на час разговора. Ограничения включают необходимость работы через pyannote.audio 3.0, использование токена Hugging Face и принятие условий доступа для связанных моделей. Модель распространяется по лицензии MIT, однако для её использования требуется пройти gated-доступ на Hugging Face.

192K229сент. 2023
textaudiomithugging-face
burakaydinofficial
whisper-base-24lang

burakaydinofficial/whisper-base-24lang — мультиязычная модель распознавания речи, созданная дообучением OpenAI Whisper Base. Она предназначена для транскрибирования аудио на 24 языках; карточка описывает её как контрольный вариант со стандартной архитектурой Whisper, сопоставимый с вариантом, преобразованным из MHA в MLA. Модель содержит 51,7 млн параметров и загружается через Transformers без пользовательского кода. Модель дообучали 15 000 шагов на корпусе Whispered, с замороженным энкодером и режимом чтения речи. В карточке приведены восстановленные оценки для части языков на CommonVoice-17; авторы предупреждают, что они получены вычитанием измеренной стоимости преобразования из результатов связанной MLA-модели, а не отдельным тестированием этого чекпойнта. Лицензия — Apache-2.0.

70июль 2026ctx1K
textaudioapache-2.0hugging-face
OpenVINO
whisper-base-fp16-ov

whisper-base-fp16-ov — модель OpenAI Whisper Base, преобразованная в формат OpenVINO IR с весами в FP16. Она предназначена для автоматического распознавания речи и совместима с OpenVINO 2025.2.0 и новее, а также с Optimum Intel 1.23.0 и новее. Модель поддерживает распознавание речи на множестве языков, включая английский, русский, китайский, немецкий, испанский, французский, японский и другие. Размер модели составляет около 51,7 млн параметров. Формат OpenVINO IR и FP16-компрессия ориентированы на эффективный запуск через OpenVINO GenAI или Optimum Intel, в том числе на CPU. Модель подходит для транскрибации аудиозаписей, голосовых сообщений, звонков и других речевых данных. Ограничения соответствуют исходной модели Whisper Base и описаны в её оригинальной карточке. Модель распространяется по лицензии Apache-2.0.

9731нояб. 2024ctx1K
textaudioapache-2.0hugging-face
openai
whisper-large

Whisper Large — мультиязычная модель распознавания речи OpenAI на базе Transformer encoder-decoder (sequence-to-sequence), опубликованная на Hugging Face в форматах PyTorch, TensorFlow и Flax. Модель содержит около 905,2 млн параметров и обучена на 680 тыс. часов размеченных аудиоданных с использованием слабого контроля. Модель предназначена для транскрибации речи на языке исходного аудио и перевода речи на другой язык; в частности, поддерживает перевод речи на английский. Она рассчитана на широкий круг аудиозаписей и может обрабатывать длинные записи с помощью разбиения на фрагменты. Базовый режим рассчитан на аудиофрагменты до 30 секунд; для более длинных записей требуется чанкинг. Whisper Large хорошо обобщает на разные наборы данных, акценты, фоновые шумы и техническую лексику без дообучения. Возможны галлюцинации — появление слов, которых нет в записи, повторения и неодинаковая точность между языками, акцентами и группами говорящих; качество часто ниже для языков с малым объёмом обучающих данных. Модель распространяется по лицензии Apache 2.0.

23K562сент. 2022ctx1K
textaudioapache-2.0hugging-face
Systran
faster-whisper-base.en

Systran подготовила конверсию английской версии Whisper base.en от OpenAI в формат CTranslate2. Модель предназначена для автоматического распознавания речи на английском языке и может использоваться через CTranslate2 и проекты на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно выбрать через параметр compute_type в CTranslate2. Репозиторий распространяется по лицензии MIT. Подробности об исходной модели приведены в карточке OpenAI Whisper base.en.

620K8нояб. 2023
textaudiomithugging-face
KevinKibe
omniASR-CTC-300M-v2

omniASR-CTC-300M-v2 — модель автоматического распознавания речи на базе Wav2Vec2 с CTC-декодированием, преобразованная из чекпойнта OmniLingual fairseq2. Она принимает аудио и выдаёт последовательность логитов по словарю SentencePiece, предназначенную для транскрибации речи на нескольких языках. Модель содержит 413,2 млн параметров и доступна в формате Safetensors для библиотеки Transformers. Подходит для многоязычной транскрибации аудиозаписей и распознавания речи в приложениях. Сведения о поддерживаемых языках, точности и длине контекста в карточке не приведены. Лицензия — Apache 2.0.

190июнь 2026
textaudioapache-2.0hugging-face
jlondonobo
whisper-large-v2-pt-v3

jlondonobo/whisper-large-v2-pt-v3 — дообученная на португалоязычной части набора Common Voice 11.0 модель автоматического распознавания речи на базе Whisper Large v2 от OpenAI. Она принимает аудио и генерирует текстовую расшифровку, в частности подходит для транскрибирования португальской речи. Модель построена на архитектуре Whisper, содержит 905,2 млн параметров и распространяется в формате PyTorch. В карточке указаны результаты оценки на тестовой выборке: loss 0,1503 и WER 4,8385. Модель выпущена под лицензией Apache-2.0. Карточка не описывает ограничения и условия оценки подробнее, поэтому результаты могут не отражать качество на других аудио и сценариях.

295дек. 2022ctx1K
textaudioapache-2.0hugging-face
AmirMohseni
whisper-large-v3-persian-ct2-int8

AmirMohseni/whisper-large-v3-persian-ct2-int8 — версия Whisper large-v3, подготовленная Amir Mohseni для распознавания персидской речи. Модель принимает аудио и генерирует текстовую транскрипцию; карточка Hugging Face указывает задачу automatic-speech-recognition, язык Persian и базовые модели openai/whisper-large-v3 и AmirMohseni/whisper-large-v3-persian-bf16. Это вариант с INT8-квантованием, предназначенный для более экономичного по памяти вывода. Репозиторий относится к семейству Whisper encoder-decoder моделей OpenAI; для задачи распознавания особенно подходит персидский язык. Карточка не приводит размер модели или контекст, а также не описывает точность именно этой квантованной версии. Модель распространяется по лицензии Apache-2.0. Известное практическое ограничение: квантование может влиять на качество распознавания, но величина такого влияния для этой версии не указана.

3993сент. 2025
textaudioapache-2.0hugging-face
juancopi81
whisper-medium-es

juancopi81/whisper-medium-es — модель автоматического распознавания речи, созданная Juan Carlos Piñeros дообучением OpenAI Whisper Medium на наборе Mozilla Common Voice 11.0. Она принимает аудио и генерирует текстовую расшифровку; карточка указывает испанский язык. Архитектура — WhisperForConditionalGeneration, размер — 455,8 млн параметров; веса доступны в форматах PyTorch и Safetensors. Модель предназначена для транскрибирования испанской речи. В README приведены результаты оценки: WER 5,4218 на оценочном наборе и WER 5,88 на Google FLEURS. Модель распространяется по лицензии Apache-2.0. Карточка не описывает дополнительные ограничения или условия, кроме лицензии.

156дек. 2022ctx1K
textaudioapache-2.0hugging-face
burakaydinofficial
whisper-small-mla-24lang

Whisper-Small-MLA-24lang — модель распознавания речи, созданная Burak Aydin на основе openai/whisper-small. Декодер преобразован из MHA в MLA, после чего модель дообучена для восстановления качества на наборе из 24 языков. В ней 153,1 млн параметров; в формате весов Safetensors, библиотека Transformers. Лицензия — Apache-2.0. Модель предназначена для транскрибирования речи на английском, немецком, испанском, французском, итальянском, португальском, русском, нидерландском, польском, индонезийском, турецком, хинди, малайском, шведском, тайском, китайском, чешском, вьетнамском, финском, греческом, датском, японском, норвежском и корейском языках. По данным карточки, преобразование сокращает KV-кэш декодера на 62,5%; экономия относится к кэшу self-attention и не распространяется на память энкодера и cross-attention. В оценке на Common Voice 17 качество существенно различается по языкам: результаты сильнее на испанском, английском, нидерландском, русском, итальянском и португальском, а на некоторых языках с малым объёмом данных, включая корейский, норвежский, датский и греческий, заметно слабее. Модель рассчитана на речь с потребительских микрофонов и чтение подготовленного текста. Для запуска требуются trust_remote_code и Transformers 4.46.x; whisper.cpp, CT2 и faster-whisper не поддерживаются.

100июль 2026ctx1K
textaudioapache-2.0hugging-face
Edge0
ARK-ASR-3B

ARK-ASR-3B — мультиязычная модель автоматического распознавания речи от Edge0. Это авторегрессионная модель на базе Transformers с архитектурой arkasr: Whisper-подобный аудиоэнкодер, MLP-адаптер и декодер Qwen. Модель содержит около 3,1 млрд параметров, принимает аудио с частотой дискретизации 16 кГц и генерирует текстовую расшифровку; указанная длина контекста — 32 768 токенов. Модель предназначена для транскрибации речи на китайском, английском, немецком, японском, французском, корейском, испанском, польском, итальянском, румынском, венгерском, чешском, нидерландском, финском, хорватском, словацком, словенском, эстонском и литовском языках. В README приведены результаты на англоязычном коротком аудио: средний WER 5,04% на наборах AMI, Earnings22, GigaSpeech, LibriSpeech, SPGISpeech и VoxPopuli; также приведены результаты CER для китайского. Для загрузки используется Transformers и пользовательский код модели. Лицензия — Apache-2.0.

2.6K109июнь 2026ctx32.8K
textapache-2.0hugging-face
NbAiLab
nb-whisper-tiny

NB-Whisper Tiny — компактная модель распознавания речи, разработанная NB AI-Lab Национальной библиотекой Норвегии на основе OpenAI Whisper Tiny. Она предназначена для транскрибации аудио и перевода речи; README описывает серию моделей, обученную на 66 000 часах речи, а метаданные указывают для этой версии 29,4 млн параметров и архитектуру WhisperForConditionalGeneration. Модель поддерживает норвежский букмол, нюнорск и английский языки. Для обработки длинных записей можно использовать разбиение на фрагменты; для большей точности README рекомендует beam size 5, что увеличивает время работы и расход памяти. Tiny оптимизирована для запуска на CPU. Лицензия — Apache 2.0.

2671февр. 2024ctx1K
textaudioapache-2.0hugging-face
bond005
wav2vec2-large-ru-golos-with-lm

Wav2Vec2-Large-Ru-Golos-With-LM — модель распознавания русской речи от bond005 на основе facebook/wav2vec2-large-xlsr-53. Модель Wav2Vec2 с архитектурой CTC содержит 402,7 млн параметров и дообучена на обучающей части датасета SberDevices/Golos с аугментациями аудио. Для декодирования используется 2-граммная языковая модель, построенная на русскоязычных текстах Taiga, Википедии и Викиновостей. Модель предназначена для преобразования русской речи в текст. Её оценивали на тестовых выборках SberDevices/Golos, русской части Common Voice 6.0 и Russian Librispeech; для работы входную речь нужно подавать с частотой дискретизации 16 кГц. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Описание не приводит численных метрик качества или результатов оценки.

35K19сент. 2022
textaudioapache-2.0hugging-face
sanchit-gandhi
whisper-base-ft-common-language-id

Это дообученная модель OpenAI Whisper Base для классификации аудио по языку. Она обучена на наборе данных Common Language и предназначена для определения языка по аудиозаписи. Архитектура — WhisperForAudioClassification, размер — 51,7 млн параметров; модель принимает аудио и выдаёт метку класса. В оценке на тестовой выборке указаны loss 1,0725 и accuracy 0,7525. Модель распространяется по лицензии Apache-2.0.

464февр. 2023
audioapache-2.0hugging-face
yuriyvnv
whisper-large-v3-cv-capes-filtered-pt

Это модель распознавания речи на португальском языке, разработанная Yuriy Vnv на основе openai/whisper-large-v3 и дообученная на Common Voice 17.0 и синтетических данных CAPES, отфильтрованных методом WAVe. Она принимает аудио и преобразует речь в текст; рассчитана на транскрибацию португальской речи, в том числе для длинных высказываний и аудио из новых предметных областей. Модель содержит 905,2 млн параметров и использует архитектуру Whisper large-v3. В карточке сообщается о WER 7,95% на тесте Common Voice и 6,89% на MLS, а также о меньшем объёме синтетических данных и числе шагов обучения по сравнению с вариантом фильтрации на уровне предложений. Модель оптимизирована для обычной португальской речи; качество на технической лексике, шумном аудио и разных региональных вариантах португальского может отличаться. Распространяется по лицензии Apache-2.0.

141июль 2025
textaudioapache-2.0hugging-face
deepdml
whisper-large-v3-turbo

deepdml/whisper-large-v3-turbo — многоязычная модель распознавания речи семейства Whisper, основанная на Whisper large-v3 от OpenAI. Это Transformer encoder-decoder с 905,2 млн параметров; в версии Turbo число слоёв декодера сокращено с 32 до 4, что ускоряет генерацию транскрипции с небольшим снижением качества. Модель принимает аудио и преобразует речь в текст, поддерживая распознавание на языке оригинала; семейство Whisper также умеет переводить речь, однако метаданные этой модели указывают только задачу автоматического распознавания речи. Модель подходит для транскрибирования записей, интервью, встреч и других аудиоматериалов на многих языках. Для длинных записей README описывает последовательную обработку скользящим окном и разбиение на перекрывающиеся фрагменты; стандартное окно восприятия составляет 30 секунд. По заявлению карточки, Whisper устойчив к акцентам, фоновому шуму и технической лексике, но точность неодинакова между языками, диалектами и группами говорящих. Возможны повторы и галлюцинации — текст, отсутствующий в аудио. Модель распространяется под лицензией Apache-2.0. README указывает поддержку библиотеки Transformers; файлы репозитория представлены в формате safetensors.

6417окт. 2024
textaudioapache-2.0hugging-face
RedHatAI
whisper-large-v3-turbo-FP8-dynamic

RedHatAI/whisper-large-v3-turbo-FP8-dynamic — это квантизированная версия модели openai/whisper-large-v3-turbo, разработанная Neural Magic. Модель преобразует аудио в текст и предназначена для автоматического распознавания речи, включая транскрибацию аудиозаписей и обработку аудиовходов в приложениях, использующих vLLM. Для развёртывания требуется vLLM версии 0.5.2 или новее; также поддерживается OpenAI-совместимый режим сервинга через vLLM. Архитектура основана на whisper-large-v3-turbo и включает аудио-текстовый вход и текстовый выход. Веса и активации квантизированы в формате FP8 с динамической схемой квантизации; выходной lm_head не квантизируется. README не указывает точный размер модели, максимальную длину контекста и полный список поддерживаемых языков, однако приводит тег языка en и оценки для англоязычной транскрибации и перевода на английский. Ключевое преимущество модели — снижение вычислительных затрат при сохранении качества исходной модели: на LibriSpeech показатель WER составляет 2,2611 на test-clean и 4,3247 на test-other в конфигурации FP8. На test-clean результат сопоставим с BF16, а на test-other немного уступает ему. Ограничения включают зависимость от совместимого стека vLLM и отсутствие в README подробных данных о качестве на других языках и сценариях. Модель распространяется по лицензии Apache-2.0.

5.5K7апр. 2025
textaudioapache-2.0hugging-face
bybb138
whisper-large-v3-turbo-korean

Карточка модели bybb138/whisper-large-v3-turbo-korean на Hugging Face совпадает с карточкой ghost613/whisper-large-v3-turbo-korean, поэтому описание составлено по ней. ghost613/whisper-large-v3-turbo-korean — дообученная модель Whisper Large V3 Turbo для автоматического распознавания корейской речи и преобразования её в текст. Она создана на основе openai/whisper-large-v3-turbo и обучена на корейском наборе данных Zeroth; в обучающей выборке было около 206 часов 43 минут аудио. Модель содержит около 905,2 млн параметров и принимает аудио, выдавая текст. В README указаны итоговые показатели WER 4,90% на валидации и 4,89% на тесте, а CER — 1,78% и 2,06% соответственно. Автор отмечает, что обучение не сошлось и дальнейшее улучшение результатов возможно. Модель опубликована в формате safetensors; условия лицензии в предоставленных данных не описаны.

80июль 2026
textaudiohugging-face
bond005
whisper-podlodka-turbo

Whisper-Podlodka-Turbo — дообученная bond005 модель на базе Whisper Large v3 Turbo от OpenAI, предназначенная прежде всего для распознавания русской речи. Модель с архитектурой Whisper и примерно 905,2 млн параметров принимает аудио и выдаёт текст; она также поддерживает распознавание английской речи, перевод русской и английской речи, определение языка и выявление сегментов без речи. Настройка модели направлена на повышение точности русской транскрипции, восстановление пунктуации и заглавных букв, устойчивость к фоновому шуму и сокращение галлюцинаций на неречевых сигналах. Поддерживаются транскрипция длинных записей и выдача временных меток для фрагментов речи. Модель распространяется в формате safetensors и работает с Transformers. По README, статистически значимое преимущество подтверждено только для распознавания русской речи; качество улучшений для английского и перевода не подтверждено столь же убедительно. Перевод с английского на русский может содержать заметные ошибки, а качество на речи с переключением между русским и английским отдельно не оценивалось. Модель лицензирована по Apache-2.0.

2.5K45июнь 2025
textaudioapache-2.0hugging-face
burakaydinofficial
whisper-small-24lang

burakaydinofficial/whisper-small-24lang — мультиязычная модель распознавания речи, созданная дообучением стандартной архитектуры OpenAI Whisper Small на 24 языках корпуса Whispered с лицензией CC0. Она предназначена для транскрибирования аудио и служит научным контрольным вариантом для сравнения с моделью, преобразованной из MHA в MLA. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и доступна в формате safetensors; она загружается через Transformers без trust_remote_code. Модель обучена для распознавания чтённой речи; в README приведены результаты оценки на CommonVoice-17, включая WER для английского, немецкого и испанского. Стандартную архитектуру Whisper можно конвертировать стандартными инструментами для faster-whisper, CTranslate2 и whisper.cpp. Для использования весов применяется лицензия Apache-2.0; обучающий корпус Whispered указан как CC0.

90июль 2026ctx1K
textaudioapache-2.0hugging-face
0x3
nemotron-3.5-asr-streaming-0.6b

Nemotron 3.5 ASR — многоязычная модель распознавания речи, разработанная NVIDIA. Она преобразует аудио в текст и предназначена для транскрибации потоковой речи с низкой задержкой и обработки аудиозаписей пакетами. Модель содержит 600 млн параметров и использует архитектуру Cache-Aware FastConformer-RNNT с языковым prompt-conditioning; потоковый режим повторно использует контекст кодировщика и обрабатывает новые аудиофрагменты. Размер фрагментов настраивается во время запуска: 80, 160, 320, 560 или 1120 мс. Модель поддерживает транскрибацию с пунктуацией и заглавными буквами для 32 локалей из коробки, включая русский, английский, испанский, немецкий, французский, арабский, китайский, японский и украинский. Ещё для восьми локалей заявлена готовность к адаптации, но для полноценной транскрибации на них требуется дообучение. Режим auto может определять язык и добавлять его метку к результату. Модель доступна через NeMo и Transformers; карточка заявляет готовность к коммерческому применению, лицензия указана как other.

290июнь 2026
textaudiootherhugging-face
Aliados
nemotron-3.5-asr-streaming-0.6b

Nemotron 3.5 ASR — разработанная NVIDIA многоязычная модель автоматического распознавания речи на 600 млн параметров. Она предназначена для потоковой транскрибации с низкой задержкой и пакетной обработки аудио; доступна через NeMo и Transformers, а веса представлены в формате safetensors. Архитектура Cache-Aware FastConformer-RNNT использует кэш контекста, чтобы обрабатывать новые аудиофрагменты без повторных вычислений. Размер фрагментов можно настраивать от 80 до 1120 мс; модель расставляет пунктуацию и заглавные буквы, а при режиме auto может определять язык речи и добавлять языковую метку к транскрипту. Модель поддерживает 40 языковых локалей: для 32 заявлена транскрибация без дополнительной адаптации, а для восьми требуется дообучение на данных целевого домена. Среди языков есть русский, английский, испанский, французский, немецкий, арабский, китайский, японский и другие. Карточка указывает готовность к коммерческому использованию, однако метаданные обозначают лицензию как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория. Для английской речи автор рекомендует отдельную англоязычную модель Nemotron ASR Streaming.

9280июль 2026
textaudiootherhugging-face
facebook
wav2vec2-base-10k-voxpopuli-ft-fr

Wav2Vec2-Base-VoxPopuli-Finetuned — модель Facebook AI для автоматического распознавания французской речи. Она основана на Wav2Vec2 Base, предварительно обученной на 10 тысячах часов неразмеченной речи из VoxPopuli, а затем дообученной на транскрибированных французских данных из этого корпуса. Архитектура — Wav2Vec2ForCTC, размер — 113,3 млн параметров; модель принимает аудио и выдаёт текстовую транскрипцию. Модель предназначена для преобразования французских аудиозаписей в текст, например для расшифровки речи в голосовых данных. Репозиторий содержит веса PyTorch. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

1.6K2март 2022
textaudiocc-by-nc-4.0hugging-face
kingabzpro
wav2vec2-large-xls-r-1b-Swedish

kingabzpro/wav2vec2-large-xls-r-1b-Swedish — дообученная на шведской части Common Voice модель распознавания речи на базе facebook/wav2vec2-xls-r-1b. Это плотная архитектура Wav2Vec2ForCTC с 1,3 млрд параметров, принимающая аудио и выдающая распознанный текст на шведском языке. Модель предназначена для автоматической транскрипции шведской речи. В оценке на тестовой выборке Common Voice 8.0 показатель WER составил 18,44 без языковой модели и 14,04 с языковой моделью; CER — соответственно 5,75 и 4,86. Для использования языковой модели требуется соответствующая внешняя языковая модель. Модель распространяется под лицензией Apache-2.0. Оценка приведена для Common Voice 8.0; качество на других наборах данных и в реальных акустических условиях может отличаться.

2.5K1март 2022
textaudioapache-2.0hugging-face

Задачи профессии

15 задач
139Классификация звуковых событий. — AI анализирует спектральные и временные признаки аудио и относит фрагменты к классам звуковых событий: речи, музыке, сигналам, ударам, шумам или другим заданным категориям. На выходе — метки с временными границами и уверенностью. Качество проверяют по размеченным записям, отдельно оценивая редкие классы, смешанные звуки и условия с сильным фоновым шумом.
140Обнаружение заданного звука в непрерывном аудиопотоке. — Механизм: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение заданного звука в непрерывном аудиопотоке», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
141Определение источника и направления звука. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение источника и направления звука» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
142Разделение смеси на голос, музыку и отдельные инструменты. — Для этой задачи система сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Рабочие входы: текст, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: результат «Разделение смеси на голос, музыку и отдельные инструменты» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
143Удаление фонового шума и акустических артефактов. — Практическая реализация: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Входной контекст включает референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: преобразованный материал по задаче «Удаление фонового шума и акустических артефактов» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
144Восстановление повреждённой или неполной аудиозаписи. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: преобразованный материал по задаче «Восстановление повреждённой или неполной аудиозаписи» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
145Автоматическое выравнивание громкости и динамического диапазона. — AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. К исходным данным относятся аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Автоматическое выравнивание громкости и динамического диапазона» с сохранённым содержанием и журналом значимых изменений. Надёжность оценивают сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
146Генерация музыки по жанру, настроению, структуре и ограничениям. — Для этой задачи система генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: редактируемый артефакт по задаче «Генерация музыки по жанру, настроению, структуре и ограничениям», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
147Генерация звуковых эффектов по текстовому описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Генерация звуковых эффектов по текстовому описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
148Создание аранжировки для заданной мелодии. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: редактируемый артефакт по задаче «Создание аранжировки для заданной мелодии», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
149Продолжение музыкального фрагмента в согласованном стиле. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: редактируемый артефакт по задаче «Продолжение музыкального фрагмента в согласованном стиле», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
150Транскрибирование музыки в ноты или MIDI. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Транскрибирование музыки в ноты или MIDI» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
151Определение темпа, тональности, аккордов и структуры композиции. — Практическая реализация: AI объединяет несколько источников свидетельств и выбирает наиболее обоснованное определение с оценкой уверенности. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение темпа, тональности, аккордов и структуры композиции» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
152Сведение и предварительный мастеринг аудиоматериала. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: преобразованный материал по задаче «Сведение и предварительный мастеринг аудиоматериала» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
153Адаптация длительности музыки под видео без резкого обрыва. — AI строит профиль текущих потребностей и адаптирует содержание, порядок или параметры взаимодействия под конкретного человека. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: адаптированный вариант для «Адаптация длительности музыки под видео без резкого обрыва» с указанием контекста и факторов, определивших персонализацию. Надёжность оценивают по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче. <a id="section-i-10"></a>

0 моделей