/ Профессии
Универсальные способности и операции

I.9Аудио и музыка

В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

АудиоТекст
AI-задач
15
в этой профессии
Подходящих моделей
4 835
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
АудиоТекст

Рекомендованные модели

4 835 моделей
Загрузки
Лайки
Дата выхода
4 771–4 800 из 4 835
vasista22
whisper-telugu-small

Whisper Telugu Small — модель распознавания речи на телугу, разработанная на основе openai/whisper-small и дообученная в рамках Whisper fine-tuning sprint. Она предназначена для преобразования аудиозаписей на телугу в текст, в том числе для оценки и транскрибирования речи из корпусов и записей на индийских языках. Модель использует архитектуру WhisperForConditionalGeneration и содержит 153,1 млн параметров. Для обучения использовались несколько открытых корпусов распознавания речи, включая CSTD IIIT-H, ULCA, Shrutilipi, корпус Microsoft для индийских языков, Google Fleurs и Babel. В карточке указаны реализации PyTorch и Flax. Модель распространяется по лицензии Apache-2.0. Модель специализирована на телугу; качество на других языках и в акустических условиях, отличающихся от обучающих данных, не подтверждено. Карточка не приводит количественных показателей качества.

8671дек. 2022ctx1K
textaudioapache-2.0hugging-face
NCAIR1
Hausa-ASR

Hausa-ASR — модель автоматического распознавания речи на языке хауса, разработанная Awarri Technologies при поддержке Федерального министерства связи, инноваций и цифровой экономики Нигерии и входящая в инициативу N-ATLaS. Это дообученная версия Whisper Small с архитектурой Transformer и примерно 244 млн параметров. Модель принимает аудио и выдаёт текстовую транскрипцию на хауса; в README рекомендована частота дискретизации 16 кГц, а максимальная длительность аудио на один запуск указана как 30 секунд. Модель предназначена для транскрибирования записей и вещательных материалов, образовательных и голосовых приложений, проектов доступности, а также языкового и культурного документирования. Обучающие данные включали 120 часов записей с платформы Langeasy от говорящих из шести геополитических зон Нигерии и общедоступные наборы данных. Точность может различаться между региональными диалектами; качество снижается при смешении хауса с английским, шуме и плохом качестве аудио. В README также отмечены ограниченные данные детской речи и необходимость проверки человеком для решений с высокими ставками. Условия использования описаны как исследовательская лицензия с дополнительными ограничениями: коммерческое или крупномасштабное корпоративное применение требует отдельного соглашения, а использование для слежки, дискриминации, военных целей и ряда вредоносных сценариев запрещено.

2.9K18сент. 2025
textaudiootherhugging-face
AIHubSN
M-Kiriku-ASR

M-Kiriku ASR — модель распознавания речи, разработанная IA Hub Senegal на основе дообучения OpenAI Whisper large-v3. Она предназначена для транскрибации аудио на волоф, пулаар и серер — языках Сенегала с ограниченными ресурсами для обучения распознавателей речи. Модель принимает аудио и выдаёт текст; для обучения использован корпус примерно из 150 часов речи, включая очищенные и проверенные данные проекта Kallama и открытые наборы данных. Разработчики расширили токенизатор языковыми символами и специальными токенами, добавили нормализацию орфографии и адаптировали декодер для целевых языков. В опубликованных оценках указаны WER 16,34% для волофа, 45,28% для пулаара и 42,99% для серера. Для аудио длиннее 30 секунд README рекомендует нарезку на перекрывающиеся фрагменты. Лицензия — Apache-2.0.

6646май 2026
textaudioapache-2.0hugging-face
NbAiLab
nb-wav2vec2-300m-bokmaal

NbAiLab создала эту модель распознавания речи на норвежском языке букмол для проекта Robust Speech Event. Это дообученная версия экстрактора признаков VoxRex Национальной библиотеки Швеции на архитектуре Wav2Vec2 с CTC-декодированием; в метаданных указано 402,7 млн параметров. Основным источником обучающих данных был корпус парламентских выступлений NPSC. Модель преобразует аудио в текст и рассчитана прежде всего на автоматическую транскрипцию речи на букмоле, в том числе парламентских выступлений. На тестовом наборе она показала WER 7,03% и CER 2,69% с 5-граммовой языковой моделью KenLM; без неё показатели составили 9,79% и 3,11%. Использование языковой модели улучшает результат. Репозиторий содержит веса в форматах PyTorch и Safetensors, лицензия — Apache-2.0.

2.8K0март 2022
textaudioapache-2.0hugging-face
Trelis
tiron

Tiron — модель распознавания речи с разделением реплик по говорящим, разработанная Trelis. Она построена на архитектуре Whisper large-v3 с расширенным словарём токенов и за один проход создаёт расшифровку с маркерами говорящих и временными метками. Число параметров — 905,3 млн; модель совместима с WhisperForConditionalGeneration и распространяется в формате safetensors. Модель предназначена для транскрибации многоголосых встреч и совещаний. Она обрабатывает аудио окнами по 30 секунд, поддерживает до восьми говорящих в окне, а для полной записи README рекомендует открытый harness, который выполняет разбиение на фрагменты и связывает говорящих между окнами. Заявлены английский и китайский языки, а также многоязычная поддержка. В бенчмарках авторов модель показала скорость около 43× реального времени на одном GPU при потреблении 3–12 ГБ видеопамяти. Метки говорящих анонимны и не сопоставляются с именами или образцами голоса. Встреча ограничена восемью глобальными говорящими при использовании harness; временные метки приблизительны, особенно при сильном перекрытии речи. Лицензия — Apache-2.0.

1.4K37июль 2026
textaudioapache-2.0hugging-face
facebook
mms-1b-fl102

facebook/mms-1b-fl102 — мног multilingual-модель автоматического распознавания речи из проекта Massively Multilingual Speech компании Facebook (Meta), разработанная Vineel Pratap и соавторами. Это дообученный на наборе Fleurs чекпойнт семейства Wav2Vec2 с CTC-архитектурой и адаптерами, содержащий около 1,3 млрд параметров по метаданным. Модель принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст; заявлена поддержка 102 языков. Модель подходит для транскрибации записей и распознавания речи на множестве языков, в том числе при создании многоязычных речевых сервисов. Карточка указывает лицензию CC-BY-NC 4.0, которая ограничивает коммерческое использование. Возможны ошибки распознавания, особенно для условий и языков, не представленных в обучающих данных; метаданные перечисляют лишь часть языкового покрытия.

5.1K33май 2023
textaudiocc-by-nc-4.0hugging-face
Jinstudio
VibeVoice-ASR

Карточка модели Jinstudio/VibeVoice-ASR на Hugging Face совпадает с карточкой microsoft/VibeVoice-ASR, поэтому описание составлено по ней. VibeVoice-ASR — модель Microsoft для распознавания речи и формирования структурированных расшифровок. Она принимает аудио и в одном проходе обрабатывает записи длительностью до 60 минут, указывая распознанный текст, временные метки и говорящих. Модель также поддерживает пользовательские ключевые слова для имён, терминов и другой специальной лексики. Модель рассчитана на многоязычную речь: README заявляет поддержку более 50 языков, автоматическое определение языка и переключение между языками в ходе записи. По данным карточки, модель построена на плотной архитектуре семейства VibeVoice, использует Transformers и хранит веса в формате safetensors. Указанная лицензия — MIT. Модель подходит для расшифровки длинных записей, где важны привязка реплик ко времени и разделение по говорящим. README заявляет обработку до 60 минут в пределах контекста 64K токенов; фактическое качество распознавания может зависеть от языка, акустики и предметной лексики.

130июль 2026
textaudiomithugging-face
snu-aidas
Dynin-Omni

Dynin-Omni — мультимодальная модель семейства Dynin-Omni, разработанная авторами проекта Dynin-Omni и дообученная на основе Gen-Verse/MMaDA-8B-MixCoT. Это плотная модель примерно на 9,2 млрд параметров с архитектурой masked diffusion: она представляет текст, изображения, видео и речь дискретными токенами в общем словаре и генерирует ответы итеративным уточнением масок. Модель предназначена для диалога и рассуждений, понимания изображений и видео, генерации и редактирования изображений, распознавания речи и синтеза речи. Единая архитектура поддерживает преобразования между модальностями, включая видео в текст, речь в текст, текст в речь и текст в изображение. В README заявлены расширенный контекст, генерация речи длительностью до 21 секунды и режимы рассуждения с управлением глубиной. Модель можно запускать и обучать локально через Transformers; поддержка в vLLM-Omni заявлена для будущего выпуска версии 0.19.0. В карточке приведены результаты на тестах рассуждений, понимания изображений и видео, генерации изображений и распознавания речи. Эти значения зависят от используемого протокола оценки. Лицензия — MIT. Карточка указывает английский язык; языки для аудио и других мультимодальных задач отдельно не перечислены.

28321февр. 2026
textmithugging-face
loom-ai-org
ecapa-voxlingua107-loom

Это модель определения языка устной речи на основе ECAPA-TDNN от SpeechBrain, обученная на VoxLingua107. Репозиторий содержит неизменённые веса исходной модели speechbrain/lang-id-voxlingua107-ecapa, упакованные в формат GGUF для запуска через loom.cpp и loom-py-rt. На вход модель принимает аудиоклип и выдаёт распределение вероятностей по 107 языкам. Модель предназначена для автоматического определения языка речи в аудиозаписи, например для предварительной сортировки клипов или выбора последующей языковой обработки. Аудио должно быть монофоническим с частотой 16 кГц; каждый клип нужно подавать отдельным вызовом, поскольку пакет с дополненными тишиной клипами не поддерживается. Модель обучена на речи из YouTube, поэтому чистых фрагментов в несколько секунд обычно достаточно, но близкие языки могут путаться — рекомендуется учитывать несколько верхних результатов. Лицензия репозитория — Apache-2.0.

220окт. 2026
audioapache-2.0hugging-face
facebook
mms-lid-4017

facebook/mms-lid-4017 — модель определения языка речи из аудио из семейства MMS, разработанного Vineel Pratap и соавторами. Она предназначена для классификации аудиозаписи по языку и поддерживает 4017 языков. Архитектура основана на Wav2Vec2; в метаданных указано 1,3 млрд параметров. Модель принимает аудио с частотой дискретизации 16 кГц и выдаёт метку языка. Доступны веса PyTorch и Safetensors. Модель подходит для определения языка коротких записей, сортировки аудиоданных по языку и выбора последующей системы распознавания речи. Карточка указывает лицензию CC-BY-NC 4.0, которая ограничивает коммерческое использование. Качество распознавания и ограничения по длительности или условиям записи в доступных данных не описаны.

17K19июнь 2023
textcc-by-nc-4.0hugging-face
facebook
mms-lid-126

facebook/mms-lid-126 — модель проекта Massive Multilingual Speech от Facebook, дообученная для определения языка речи. Она принимает аудио и выдаёт распределение вероятностей по 126 языковым классам; построена на архитектуре Wav2Vec2 и дообучена на базе facebook/mms-1b. Размер модели указан в карточке как 1 млрд параметров, а в метаданных — 1,3 млрд. Модель предназначена для автоматической идентификации языка по речевому аудио и поддерживает речь на 126 языках. Для работы с ней подходят аудиозаписи с частотой дискретизации 16 кГц. Лицензия CC-BY-NC 4.0 разрешает использование на условиях Creative Commons «С указанием авторства — Некоммерческое использование».

29K37июнь 2023
textcc-by-nc-4.0hugging-face
nvidia
canary-1b-v2

Canary-1b-v2 — мультиязычная модель NVIDIA для распознавания речи и перевода устной речи. Это модель примерно с 1 млрд параметров на архитектуре encoder-decoder: FastConformer извлекает признаки из аудио, а Transformer Decoder генерирует текст. Модель работает с 25 европейскими языками: болгарским, хорватским, чешским, датским, нидерландским, английским, эстонским, финским, французским, немецким, греческим, венгерским, итальянским, латышским, литовским, мальтийским, польским, португальским, румынским, словацким, словенским, испанским, шведским, русским и украинским. Модель предназначена для транскрибации речи на этих языках, а также перевода речи между английским и каждым из остальных 24 языков. Она автоматически расставляет знаки препинания и заглавные буквы, поддерживает временные метки на уровне слов и сегментов, в том числе для переведённого текста, и обрабатывает длинные записи с динамическим разбиением на фрагменты. NVIDIA заявляет о высокой скорости и качестве относительно моделей сопоставимого размера; результаты зависят от языка и условий записи. Модель можно использовать для голосовых помощников, субтитров, транскрибации разговоров и голосовой аналитики. Для работы предусмотрен NVIDIA NeMo; карточка также описывает использование через Transformers. Лицензия — CC BY 4.0, допускающая коммерческое и некоммерческое использование с соблюдением её условий.

131K436авг. 2025
textaudiocc-by-4.0hugging-face
bosonai
higgs-audio-v3-8b-stt

Higgs Audio v3 8B STT — модель распознавания речи от Boson AI, дообученная методом LoRA на разнообразных наборах данных для ASR. Она принимает монофонический WAV-аудиосигнал с частотой 16 кГц и преобразует речь в текст. Архитектура объединяет замороженный энкодер Whisper-Large-v3 и декодер Qwen3-8B с объединёнными LoRA-весами; общий размер составляет 8,91 млрд параметров. Модель поддерживает режим Thinking для повышения точности. В README приведены результаты на бенчмарке ESB, включая WER 6,23% на AMI, 11,33% на Earnings22 и 9,34% на GigaSpeech. Обучение использовало выборки AMI, SPGISpeech, Earnings22, VoxPopuli, LibriSpeech и TED-LIUM. Метаданные указывают английский язык и лицензию Apache-2.0; опубликованный формат весов — safetensors.

5716март 2026ctx131.1K
textaudioapache-2.0hugging-face
facebook
mms-lid-2048

facebook/mms-lid-2048 — модель семейства wav2vec2, разработанная Vineel Pratap и соавторами для определения языка по аудиозаписи. Она классифицирует аудио среди 2048 языков; в карточке указана частота дискретизации 16 кГц. Архитектура репозитория — Wav2Vec2ForSequenceClassification, размер по метаданным — 1,3 млрд параметров, веса доступны в форматах PyTorch и Safetensors. Модель предназначена для автоматического распознавания языка речи в аудиосигналах, включая языки с ограниченными ресурсами. Среди поддерживаемых языков есть русский, английский, арабский, китайский и многие другие. Это классификатор аудио, а не модель транскрибации: она определяет язык, но не выдаёт текстовую расшифровку речи. Распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

3.3K5июнь 2023
textcc-by-nc-4.0hugging-face
ai-babai
gigachat-audio-mlx

GigaChat Audio MLX — независимый порт модели ai-sage/GigaChat3.1-Audio-10B-A1.8B в формате BF16 для запуска на компьютерах Apple Silicon с библиотекой MLX. Модель принимает аудио вместе с текстовой инструкцией и формирует текстовый ответ: расшифровку речи, перевод, ответы на вопросы об аудио, анализ эмоций, поиск событий с временными отметками и сводки с таймкодами. Архитектура основана на DeepSeek V3; в метаданных указано 1,5 млрд параметров и контекст длиной 262 144 токена. Модель поддерживает русский и английский языки. Репозиторий содержит веса safetensors в BF16; для работы требуется среда Apple Silicon. Разработчики порта сообщают о завершённой обработке тестового аудиофрагмента длительностью 5 минут 17 секунд за 10,41 секунды на Apple M4 Pro с 48 ГБ памяти, однако совместимость с другими конфигурациями не подтверждена. Порт создан независимо от авторов исходной модели. Лицензия модели — MIT. Модель не выполняет диаризацию, потоковое распознавание с микрофона или синтез речи; факты, метки эмоций, сводки и временные отметки могут быть ошибочными и требуют проверки по аудио.

480июль 2026ctx262.1K
textmithugging-face
bosonai
higgs-audio-v3-stt-v2

bosonai/higgs-audio-v3-stt-v2 — англоязычная модель распознавания речи Boson AI на архитектуре HiggsAudio3. Это дообученный чекпойнт bosonai/higgs-audio-understanding-v3-1.7b, в который слиты веса LoRA ранга 64 и alpha 128. Модель принимает аудио и преобразует речь в текст; карточка указывает задачу automatic-speech-recognition и формат safetensors. Модель предназначена для транскрибирования английской речи. В обучающую смесь вошли части AMI IHM, GigaSpeech, LibriSpeech, SpgiSpeech, TED-LIUM и VoxPopuli; для Earnings22 данные пропускались. В README приведены результаты оценки WER на AMI, Earnings-22 и GigaSpeech по методике Open ASR Leaderboard. Модель распространяется по лицензии Apache-2.0. Результаты зависят от записи и условий распознавания; сведения об ограничениях качества за пределами приведённых оценок в карточке не представлены.

16712апр. 2026ctx131.1K
textaudioapache-2.0hugging-face
cudabenchmarktest
Ornith-1.5-9B-Omni-GGUF

Ornith-1.5-9B-Omni-GGUF — мультимодальный набор моделей, опубликованный cudabenchmarktest в формате GGUF и предназначенный для запуска через Ollama вместе с адаптером Robit. В состав входят текстовая модель Ornith 1.5 9B с пониманием изображений, инструментами и опциональным режимом рассуждений, граф Qwen3-Omni для анализа аудио, изображений и видео, а также Qwen3-TTS для синтеза речи. Компоненты работают как отдельные графы, связанные семантическим адаптером. Набор поддерживает генерацию текста и речи, распознавание речи, интерпретацию окружающих звуков, понимание изображений и анализ выбранных кадров видео. Основной GGUF-файл является контейнером sidecar с шестью представлениями моделей и проекторов, а не самостоятельной стандартной моделью Ollama. Текстовые функции и понимание изображений запускаются через стандартный Ollama; для аудио, видео и синтеза речи требуется адаптер Robit с закреплённой версией llama.cpp. Генерация видео не поддерживается. В метаданных указан формат GGUF и лицензия «other»; конкретные условия лицензии следует сверить с опубликованными уведомлениями и источниками компонентов. README предупреждает, что мультимедийные данные, транскрипты, OCR, подписи и результаты инструментов следует считать недоверенным вводом.

5710сент. 2026
textaudiootherhugging-face
anton-l
wav2vec2-base-lang-id

anton-l/wav2vec2-base-lang-id — дообученная модель классификации аудио на основе facebook/wav2vec2-base. Она предназначена для определения языка по аудиозаписи и обучена на наборе данных anton-l/common_language. Модель содержит 113,3 млн параметров; в проверке на оценочном наборе показала точность 0,7945 и loss 0,9836. Модель использует архитектуру Wav2Vec2ForSequenceClassification и распространяется в формате PyTorch. Лицензия — Apache-2.0. Карточка не описывает поддерживаемый перечень языков и условия записи аудио, поэтому результаты для конкретных языков и акустических условий по приведённым данным определить нельзя.

358март 2022
textapache-2.0hugging-face
NbAiLab
nb-whisper-small-beta

NB-Whisper Small (beta) — модель распознавания речи, выпущенная NB AI-Lab Национальной библиотекой Норвегии. Она построена на архитектуре OpenAI Whisper и дообучена на 20 000 часах размеченных аудиоданных; в карточке указано 153,1 млн параметров. Модель предназначена для распознавания речи и транскрибирования аудио, особенно на норвежском языке. Поддерживаются норвежский букмол, норвежский нюношк и английский. Модель подходит для черновой расшифровки речей, парламентских выступлений, телепередач и аудиокниг. Авторы отмечают высокое качество для норвежского языка среди ASR-моделей сопоставимого размера, но предупреждают о галлюцинациях, пропусках фрагментов и расхождении транскрипта с дословной речью: модель может нормализовать устную речь в грамматически правильный письменный текст или опускать части высказывания. Это публичная бета-версия, не предназначенная для производственного применения без оценки рисков. Лицензия — CC BY 4.0.

4817июнь 2023ctx1K
textaudiocc-by-4.0hugging-face
facebook
seamless-m4t-v2-large

SeamlessM4T v2 Large — мультимодальная многоязычная модель перевода от Meta, построенная на архитектуре UnitY2. Она поддерживает распознавание речи, перевод речи в текст и текста в текст, а также перевод речи и текста с синтезом речи. По карточке модели, она принимает речь на 101 языке, текст на 96 языках и генерирует речь на 35 языках. Версия v2 улучшает качество и скорость генерации речи по сравнению с SeamlessM4T v1. Репозиторий содержит вариант на 664,9 млн параметров, доступный через Transformers; длина контекста — 4096 токенов. Лицензия CC-BY-NC-4.0 разрешает использование на условиях указания авторства и запрещает коммерческое применение.

303K1.0Kнояб. 2023ctx4.1K
textaudiocc-by-nc-4.0hugging-face
speechbrain
lang-id-voxlingua107-ecapa

SpeechBrain lang-id-voxlingua107-ecapa — модель распознавания языка устной речи, обученная на наборе VoxLingua107. Она использует архитектуру ECAPA-TDNN, первоначально применявшуюся для распознавания говорящего; дополнительные полносвязные слои после слоя эмбеддингов и обучение с функцией потерь cross-entropy адаптируют её к классификации языка. Модель принимает аудио и относит речевой фрагмент к одному из 107 языков. Также её можно применять для извлечения эмбеддингов высказываний и обучения собственного классификатора языка. Модель обучалась на одноканальных записях с частотой 16 кГц; при вызове classify_file аудио автоматически приводится к нужному формату. Обучающие данные — короткие сегменты из YouTube, автоматически размеченные по языку видео; средняя продолжительность данных на язык составляет около 62 часов, но объём сильно различается. Ошибка на проверочном наборе VoxLingua107 составляет 6,7%. Модель распространяется по лицензии Apache-2.0. Качество может быть ниже для языков с малым объёмом обучающих данных, женской и детской речи, речи с иностранным акцентом, а также речи людей с нарушениями речи. Разметка обучающих сегментов получена автоматически, поэтому возможны ошибки в данных.

124K168март 2022
audioapache-2.0hugging-face
facebook
mms-lid-256

facebook/mms-lid-256 — модель Facebook (Meta), дообученная в рамках проекта Massively Multilingual Speech для определения языка речи. Она построена на архитектуре Wav2Vec2 и классифицирует аудио по 256 языковым классам, выдавая распределение вероятностей. Размер указан как 1 млрд параметров в README и 1,3 млрд в метаданных. Модель принимает аудио с частотой дискретизации 16 кГц. Модель подходит для автоматического распознавания языка в речевых записях, например, для маршрутизации аудио в соответствующую систему распознавания речи или сортировки многоязычных аудиоданных. Поддерживаются 256 языков, включая русский и английский. Это классификатор языка речи, а не модель транскрибирования: она определяет язык, но не преобразует речь в текст. Распространяется по лицензии CC-BY-NC 4.0, которая ограничивает коммерческое использование.

20K21июнь 2023
textcc-by-nc-4.0hugging-face
Trelis
tara

Tara — модель автоматического распознавания речи, разработанная Trelis для транскрибации хинди и смешанной речи хинди–английский. Она построена на архитектуре Whisper large-v3 и поддерживает отдельный режим смешанного кода: английские слова записываются латиницей, а хинди — деванагари. По метаданным репозитория модель содержит 905,3 млн параметров; принимает аудио с частотой 16 кГц и выдаёт текст. В карточке заявлены также сильные результаты для английской речи и устойчивость к шуму, телефонным записям, спонтанной речи и различным акцентам. Модель предназначена для голосовых помощников, аналитики звонков, субтитров и конвейеров обработки речевых данных. Для максимальной точности нужно выбирать режим распознавания по языку записи; смешанный режим подходит и для чистого хинди. Оценка в карточке проведена на аудиофрагментах длительностью до 30 секунд, поэтому более длинные записи рекомендуется разбивать на части. Поддержка других индийских языков не заявлена. Лицензия — Apache 2.0.

4.5K11июль 2026
textaudioapache-2.0hugging-face
TalTechNLP
whisper-large-et

Whisper-large-et — модель автоматического распознавания речи на эстонском языке, разработанная в лаборатории языковых технологий TalTech. Она основана на openai/whisper-large-v2 и дообучена примерно на 1200 часах разнообразных эстонских аудиозаписей; архитектура Whisper содержит около 905,2 млн параметров. Модель предназначена для общего распознавания речи, включая передачи, беседы, интервью и лекции. Для запуска авторы рекомендуют faster-whisper. В тестах с жадным декодированием указана частота ошибок WER 11,3 на Common Voice 8.0 и 12,0 на Common Voice 11.0. Лицензия — CC BY 4.0. Качество может снижаться на технической и узкоспециальной лексике, детской и неродной речи, при сильном шуме или удалённом микрофоне, а также при спонтанной и перекрывающейся речи.

638апр. 2023ctx1K
textaudiocc-by-4.0hugging-face
anton-l
xtreme_s_xlsr_300m_fleurs_langid

Модель anton-l/xtreme_s_xlsr_300m_fleurs_langid — классификатор аудио для определения языка речи. Её создал пользователь anton-l, дообучив facebook/wav2vec2-xls-r-300m на наборе GOOGLE/XTREME_S — FLEURS.ALL. Архитектура основана на Wav2Vec2ForSequenceClassification; размер модели — около 402,7 млн параметров. Модель принимает аудиозапись и предсказывает один из языковых классов, представленных в FLEURS. На оценочной выборке из 77 960 примеров общая точность составила 0,7271. Результаты существенно различаются по языкам: например, точность для русского — 0,9794, а для некоторых других языков она низкая. Лицензия — Apache-2.0. README не содержит дополнительных рекомендаций по использованию или подробного описания ограничений.

290апр. 2022
textapache-2.0hugging-face
ysdede
Phi-4-mm-inst-asr-turkish

ysdede/Phi-4-mm-inst-asr-turkish — дообученная модель на основе microsoft/Phi-4-multimodal-instruct для транскрибирования аудио на турецком языке. Она обучена за один проход на наборе турецких аудиозаписей объёмом 600 часов с запросом «Transcribe the Turkish audio». Автор отмечает, что указание исходного языка при инференсе помогает снизить галлюцинации и повысить точность. Это плотная мультимодальная модель семейства Phi-4 с 3,8 млрд параметров и контекстом 4096 токенов. Модель использует Transformers и формат safetensors. Лицензия — MIT. Карточка не содержит оценок качества; обучение было ограничено ресурсами и одним проходом, поэтому точность на разных видах аудио может различаться.

325февр. 2025ctx131.1K
textmithugging-face
anton-l
xtreme_s_xlsr_300m_fleurs_langid_quicker_warmup

Модель anton-l/xtreme_s_xlsr_300m_fleurs_langid_quicker_warmup — дообученная на наборе XTREME-S модель классификации аудио на базе facebook/wav2vec2-xls-r-300m. Она предназначена для определения языка по аудиозаписи. В метаданных указаны архитектура Wav2Vec2ForSequenceClassification и 402,7 млн параметров; репозиторий содержит веса PyTorch. Модель опубликована под лицензией Apache-2.0. В README приведён результат оценки на тестовой выборке: точность 0,6199 при значении функции потерь 1,9765. Описание модели, обучающих данных и ограничений в карточке не раскрыто, поэтому её качество на других данных и набор поддерживаемых языков по имеющимся сведениям установить нельзя.

220апр. 2022
textapache-2.0hugging-face
Jacaranda-Health
ASR-STT

Jacaranda Health разработала модель распознавания речи на базе Whisper medium, дообученную для транскрибирования речи на суахили и английском языках. Модель принимает аудио и выдаёт текст; число параметров — 455,8 млн. В метаданных указано объединение моделей openai/whisper-medium и openai/whisper-small, а README описывает дообучение whisper-medium на Common Voice 17.0. Поэтому точный способ получения чекпойнта по источникам расходится. Модель подходит для расшифровки записей и смешанной речи на суахили и английском. README сообщает WER 14,7 на оценочном наборе и улучшение по сравнению с базовой моделью, особенно для суахили, но подробности протокола оценки не приведены. Лицензия в метаданных — CC BY-SA 4.0; README ограничивает назначение исследованиями, общественно полезными и внутренними сценариями, а коммерческое использование и распространение предлагает согласовывать с Jacaranda Health.

412май 2025ctx1K
textaudiocc-by-sa-4.0hugging-face
NbAiLabArchive
whisper-large-v2-nob

Whisper Large Norwegian Bokmål — дообученная модель распознавания речи на базе openai/whisper-large-v2, созданная NbAiLab. Она предназначена для автоматической транскрипции норвежской речи на букмоле. Обучение проводилось на корпусе примерно из 5 000 часов аудио: субтитрах NRK, стенограммах выступлений в парламенте Норвегии и записях Norsk Språkteknologi. Модель использует архитектуру Whisper Large v2 с 905,2 млн параметров и принимает аудио, выдавая текст. В README приведён результат на оценочном наборе: WER 10,72 и loss 0,2477; обучение на момент публикации ещё продолжалось, поэтому результаты могут измениться. Репозиторий распространяется по лицензии Apache-2.0.

2513дек. 2022ctx1K
textaudioapache-2.0hugging-face
RedHatAI
whisper-large-v3-turbo-quantized.w4a16

RedHatAI/whisper-large-v3-turbo-quantized.w4a16 — квантизированная версия модели openai/whisper-large-v3-turbo, разработанной OpenAI и опубликованной Red Hat AI. Это аудио-текстовая модель архитектуры Whisper с текстовым выходом, предназначенная для автоматического распознавания речи и автоматического перевода речи. В карточке указана поддержка английского языка. Веса модели преобразованы в формат INT4 (W4A16), что ориентировано на более эффективное хранение и инференс. Модель подготовлена для работы с vLLM и проверена в RHOAI 2.25, RHAIIS 3.2.2 и vLLM 0.10.1.1; поддерживается развёртывание через vLLM и OpenAI-совместимый сервер, включая сценарии на Red Hat OpenShift AI и Red Hat AI Inference Server. Ограничения включают снижение численной точности из-за квантизации и зависимость от совместимого серверного окружения и аппаратных ресурсов, однако конкретное влияние на качество распознавания в README не приведено. Модель распространяется по лицензии Apache 2.0.

1.4K9апр. 2025
textaudioapache-2.0hugging-face

Задачи профессии

15 задач
139Классификация звуковых событий. — AI анализирует спектральные и временные признаки аудио и относит фрагменты к классам звуковых событий: речи, музыке, сигналам, ударам, шумам или другим заданным категориям. На выходе — метки с временными границами и уверенностью. Качество проверяют по размеченным записям, отдельно оценивая редкие классы, смешанные звуки и условия с сильным фоновым шумом.
140Обнаружение заданного звука в непрерывном аудиопотоке. — Механизм: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение заданного звука в непрерывном аудиопотоке», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
141Определение источника и направления звука. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение источника и направления звука» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
142Разделение смеси на голос, музыку и отдельные инструменты. — Для этой задачи система сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Рабочие входы: текст, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: результат «Разделение смеси на голос, музыку и отдельные инструменты» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
143Удаление фонового шума и акустических артефактов. — Практическая реализация: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Входной контекст включает референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: преобразованный материал по задаче «Удаление фонового шума и акустических артефактов» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
144Восстановление повреждённой или неполной аудиозаписи. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: преобразованный материал по задаче «Восстановление повреждённой или неполной аудиозаписи» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
145Автоматическое выравнивание громкости и динамического диапазона. — AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. К исходным данным относятся аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Автоматическое выравнивание громкости и динамического диапазона» с сохранённым содержанием и журналом значимых изменений. Надёжность оценивают сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
146Генерация музыки по жанру, настроению, структуре и ограничениям. — Для этой задачи система генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: редактируемый артефакт по задаче «Генерация музыки по жанру, настроению, структуре и ограничениям», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
147Генерация звуковых эффектов по текстовому описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Генерация звуковых эффектов по текстовому описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
148Создание аранжировки для заданной мелодии. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: редактируемый артефакт по задаче «Создание аранжировки для заданной мелодии», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
149Продолжение музыкального фрагмента в согласованном стиле. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, музыкальные ограничения, аудиозаписи, отдельные дорожки и спектральные признаки. Формат результата: редактируемый артефакт по задаче «Продолжение музыкального фрагмента в согласованном стиле», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аудиоматериал. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
150Транскрибирование музыки в ноты или MIDI. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Рабочие входы: аудиодорожки, аудиозаписи, отдельные дорожки, спектральные признаки и референсы. Формат результата: преобразованный материал по задаче «Транскрибирование музыки в ноты или MIDI» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
151Определение темпа, тональности, аккордов и структуры композиции. — Практическая реализация: AI объединяет несколько источников свидетельств и выбирает наиболее обоснованное определение с оценкой уверенности. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Входной контекст включает аудиодорожки, отдельные дорожки, спектральные признаки, референсы и музыкальные ограничения. Формат результата: установленное значение или вариант по задаче «Определение темпа, тональности, аккордов и структуры композиции» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
152Сведение и предварительный мастеринг аудиоматериала. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. Исходные данные: аудиодорожки, спектральные признаки, референсы, музыкальные ограничения и аудиозаписи. Формат результата: преобразованный материал по задаче «Сведение и предварительный мастеринг аудиоматериала» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче.
153Адаптация длительности музыки под видео без резкого обрыва. — AI строит профиль текущих потребностей и адаптирует содержание, порядок или параметры взаимодействия под конкретного человека. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, референсы, музыкальные ограничения, аудиозаписи и отдельные дорожки. Формат результата: адаптированный вариант для «Адаптация длительности музыки под видео без резкого обрыва» с указанием контекста и факторов, определивших персонализацию. Надёжность оценивают по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; прослушиванием, измерением качества сигнала, сохранением тембра и соответствием музыкальной задаче. <a id="section-i-10"></a>

0 моделей