/ Профессии
Универсальные способности и операции

I.7Речь, диалоги и встречи

В разделе собраны самостоятельные задачи, где AI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

АудиоТекст
AI-задач
17
в этой профессии
Подходящих моделей
26 923
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
АудиоТекст

Рекомендованные модели

26 923 модели
Загрузки
Лайки
Дата выхода
331–360 из 26 923
NexaAI
OmniAudio-2.6B

OmniAudio-2.6B — мультимодальная аудиоязыковая модель компании NexaAI на 2,6 млрд параметров для локального запуска на устройствах. Она объединяет Gemma-2-2b, Whisper turbo и проектор, чтобы обрабатывать аудио и текст в одной модели, без отдельной последовательной связки распознавания речи и языковой модели. В карточке Hugging Face указаны варианты GGUF, включая Q4_0, Q4_K_M и Q8_0; лицензия — Apache-2.0. Модель предназначена для голосовых вопросов и ответов, диалога по аудиовводу, создания текстов по голосовым запросам, суммаризации записей и преобразования заметок в более профессиональный стиль. В обучении использовались данные английской речи MLS English 10k, а также этапы supervised fine-tuning и DPO. Заявленная разработчиком цель — быстрый офлайн-инференс на потребительских и периферийных устройствах. Описание не заявляет генерацию аудио или поддержку function calling: эти возможности указаны как планы развития. Языковая поддержка подтверждена для английского; результаты могут зависеть от устройства и выбранной квантизации.

375289дек. 2024
textaudioapache-2.0hugging-face
mlx-community
parakeet-ctc-1.1b

mlx-community/parakeet-ctc-1.1b — версия модели NVIDIA Parakeet CTC 1.1B, подготовленная сообществом mlx-community для запуска через MLX. Это модель распознавания речи на архитектуре семейства FastConformer/Conformer с CTC-декодированием: она принимает аудио и преобразует речь в текст. В карточке указаны поддержка MLX и формат весов safetensors; для использования предлагаются библиотеки parakeet-mlx и mlx-audio. Модель предназначена для автоматической транскрипции речи. Она распространяется по лицензии CC BY 4.0. README отсылает к исходной карточке NVIDIA за подробностями, поэтому конкретные сведения о языках, длине аудио и ограничениях качества здесь не подтверждены.

1.4K1май 2025
textaudiocc-by-4.0hugging-face
aufklarer
Parakeet-EOU-120M-CoreML-INT8

Parakeet-EOU-120M CoreML INT8 — модель автоматического распознавания речи, разработанная aufklarer на основе NVIDIA Parakeet Realtime EOU 120M v1 и преобразованная в формат CoreML с использованием coremltools. Она предназначена для потоковой транскрипции аудио на устройствах Apple Silicon, включая сценарии распознавания речи с микрофона и локального выполнения через Apple Neural Engine. Модель поддерживает определение конца высказывания с помощью специального токена EOU, поэтому для сегментации не требуется внешний VAD. Модель содержит 120 млн параметров и использует архитектуру FastConformer-RNNT с 17-слойным кэшируемым энкодером и однослойным LSTM-декодером. В энкодере применяется INT8 palettization. Поддерживается английский язык, входной аудиосигнал рассчитан на частоту дискретизации 16 кГц. Потоковая обработка выполняется чанками по 320 мс с настраиваемым размером. Словарь включает 1024 BPE-токена и специальные токены EOU, EOB и blank. К сильным сторонам относятся низкая задержка, возможность работы в реальном времени, локальное выполнение и небольшой потоковый кэш. На Apple M2 Max заявлены средняя задержка полного конвейера 17,7 мс, задержка P95 22,4 мс и коэффициент реального времени 0,055, что соответствует примерно 18-кратному ускорению относительно длительности аудио. Ограничения включают ориентацию на экосистему Apple и поддержку только английского языка; приведённые показатели производительности относятся к Apple M2 Max и могут отличаться на других устройствах. Модель распространяется по лицензии NVIDIA Open Model License.

6.0K1апр. 2026
textaudiootherhugging-face
nvidia
parakeet-tdt-0.6b-v2

Parakeet TDT 0.6B V2 — англоязычная модель автоматического распознавания речи от NVIDIA. Она преобразует монофоническое аудио в текст с пунктуацией, заглавными буквами и временными метками на уровне слов. Модель содержит 600 млн параметров и использует архитектуру FastConformer-TDT с декодером TDT; работает с аудиофрагментами длительностью до 24 минут за один проход. Модель предназначена для транскрибации разговоров, голосовых команд, песенных текстов и записей для субтитров или голосовой аналитики. По данным разработчика, она хорошо распознаёт числа в речи; скорость зависит от длительности аудио и размера пакета. Для запуска используется NVIDIA NeMo; модель оптимизирована для систем с GPU NVIDIA. Вход — монофоническое аудио 16 кГц, в карточке указаны форматы WAV и FLAC. Модель доступна для коммерческого и некоммерческого использования по лицензии CC-BY-4.0. Карточка не сообщает о мерах снижения смещений; точность для языков, отличных от английского, не заявлена.

176K1.6Kапр. 2025
textaudiocc-by-4.0hugging-face
handy-computer
parakeet-tdt-0.6b-v2-gguf

Parakeet TDT 0.6B V2 — модель автоматического распознавания речи, разработанная NVIDIA и преобразованная в формат GGUF для использования с transcribe.cpp. Она предназначена для офлайн-транскрибации английской речи с автоматическими пунктуацией и капитализацией, а также прогнозированием временных меток на уровне токенов. Модель подходит для расшифровки записей, голосовых заметок, интервью и других аудиоматериалов. Архитектура включает 600-миллионный FastConformer-подобный Conformer-энкодер и декодер TDT/RNNT transducer. На вход подаётся монофонический WAV-файл с частотой 16 кГц, на выходе формируется текстовая расшифровка. Доступны варианты квантования F32, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 475 МБ до 2,47 ГБ. На наборе LibriSpeech test-clean показатель WER составляет 1,68% для F32 и 1,72% для Q4_K_M. Сильные стороны модели — высокая точность английской транскрибации, поддержка пунктуации, капитализации и временных меток, а также возможность локального запуска с различными уровнями квантования. Ограничения — отсутствие потокового режима, поддержки других языков, автоматического определения языка и перевода; для работы требуется предварительно подготовленный звук в формате 16 кГц, моно WAV. Использование регулируется лицензией CC-BY-4.0, унаследованной от базовой модели.

136K1апр. 2026
textaudiocc-by-4.0hugging-face
sonic-speech
parakeet-tdt-0.6b-v3-int8

Parakeet TDT 0.6B v3 INT8 — модель распознавания речи, подготовленная Sonic Speech на основе модели NVIDIA Parakeet TDT v3 и предназначенная для запуска через MLX, в том числе на компьютерах Apple Silicon. Она преобразует аудио в текст и подходит для транскрибации записей и речи.

2572март 2026
textaudiocc-by-4.0hugging-face
Immich
pipeline-error-propagation-dialogue-summarization-led-pipeline-seed73

Это экспериментальный чекпойнт модели LED-base от Immich, дообученный для суммаризации совещаний на подмножестве AMI Meeting Corpus с seed обучения 73. Модель использует архитектуру LED для генерации сводок по длинным диалогам; размер составляет 95,2 млн параметров. В README описаны два сценария: суммаризация всей встречи и иерархический конвейер сегментации, извлечения и генерации. Веса опубликованы в формате safetensors. Модель предназначена для подготовки кратких итогов совещаний и диалогов на материалах, похожих на AMI Meeting Corpus. Лицензия — MIT. Число участников, языков и длина контекста в предоставленных данных не указаны, поэтому их нельзя надёжно определить.

180авг. 2026ctx16.4K
textmithugging-face
unsloth
Qwen2.5-Omni-3B

unsloth/Qwen2.5-Omni-3B — мультимодальная модель на базе Qwen2.5-Omni-3B, опубликованная Unsloth. Она принимает текст, изображения, аудио и видео и может отвечать текстом или генерировать речь; архитектура Thinker-Talker поддерживает потоковую обработку и синхронизацию временных меток аудио и видео. Модель подходит для голосового и видеодиалога, распознавания и понимания речи, анализа изображений и видео, а также выполнения инструкций с аудиовходом. Карточка описывает возможности семейства Qwen2.5-Omni, включая распознавание речи, перевод, рассуждения по изображениям, понимание видео и генерацию речи. Для работы рекомендуется актуальная версия Transformers; генерацию аудио можно отключить, чтобы сократить расход видеопамяти примерно на 2 ГБ. В метаданных указаны формат safetensors и лицензия other; конкретные условия этой лицензии следует проверить на странице модели.

1025май 2025ctx32.8K
textotherhugging-face
donnavanb09
Qwen2.5-Omni-7B

Карточка модели donnavanb09/Qwen2.5-Omni-7B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».

180авг. 2026ctx32.8K
textotherhugging-face
Qwen
Qwen2.5-Omni-7B

Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».

301K2.0Kмарт 2025ctx32.8K
textotherhugging-face
unsloth
Qwen2.5-Omni-7B

unsloth/Qwen2.5-Omni-7B — мультимодальная модель на архитектуре Qwen2.5-Omni, опубликованная Unsloth как дообученная версия Qwen/Qwen2.5-Omni-7B. Она принимает текст, изображения, аудио и видео и может вести диалог, объединяя сигналы из разных модальностей; ответы выдаёт текстом и естественной речью, в том числе в потоковом режиме. Модель рассчитана на голосовой и видеодиалог в реальном времени, распознавание и понимание речи, аудио- и видеовопросы, анализ изображений, мультимодальные рассуждения, перевод и генерацию речи. В README использование описано через библиотеку Transformers. Указана архитектура Thinker-Talker и синхронизация аудио с видеовременными метками посредством TMRoPE; метаданные относят модель к семейству Qwen2.5-Omni и указывают плотную архитектуру. Карточка сообщает об английском языке; характеристики контекста и число параметров этой версии в предоставленных данных не приведены. Модель демонстрирует широкие мультимодальные возможности, однако приведённые в README оценки относятся к исходной линейке Qwen2.5-Omni и не гарантируют идентичные результаты этой производной версии. Репозиторий указывает лицензию «other», поэтому перед применением следует проверить условия лицензии в карточке модели.

1236май 2025ctx32.8K
textotherhugging-face
OpenVoiceOS
qwen3-asr-0.6b-f16

OpenVoiceOS опубликовала конвертированную в формат GGUF версию модели Qwen3-ASR-0.6B с тензорами F16. Это модель автоматического распознавания речи, предназначенная для запуска на периферийных устройствах и CPU-системах. Модель принимает аудио и преобразует речь в текст. В карточке указана поддержка китайского, английского, арабского, немецкого, французского, испанского, португальского, индонезийского, итальянского, корейского, русского, тайского, вьетнамского, японского, турецкого, хинди, нидерландского, шведского, датского и финского языков; теги README также перечисляют малайский, фарси, греческий, венгерский, македонский, румынский, чешский и филиппинский. Формат GGUF упрощает использование модели в CPU- и edge-средах. Для работы с этой версией нужна среда выполнения, совместимая с GGUF. Модель распространяется по лицензии Apache 2.0, унаследованной от исходной Qwen/Qwen3-ASR-0.6B.

1.3K0февр. 2026
textaudiohugging-face
vrfai
Qwen3-ASR-1.7B-fp8

Это FP8-квантизированная версия Qwen3-ASR-1.7B, подготовленная vrfai с помощью NVIDIA ModelOpt для развёртывания через vLLM. Модель предназначена для распознавания речи и транскрибации аудио; базовая модель поддерживает потоковую обработку. В архитектуре Qwen3ASRForConditionalGeneration около 1,7 млрд параметров: языковая часть размером примерно 1,4 млрд параметров квантизирована в FP8, а audio_tower и lm_head оставлены в BF16. По данным README, на тесте из 760 образцов VIVOS частота ошибок слов составила 7,60% против 7,34% у версии BF16; сходство выходов LLM с BF16 на 50 образцах — 0,994. Замеры также показывают более высокую пропускную способность FP8 на указанном оборудовании и уровнях конкурентности. Репозиторий распространяется по лицензии Apache-2.0.

5.0K6март 2026ctx131.1K
textaudioapache-2.0hugging-face
vrfai
Qwen3-ASR-1.7B-nvfp4

Это квантизированная версия многоязычной модели Qwen3-ASR-1.7B, подготовленная VRFAI с помощью NVIDIA ModelOpt для запуска через vLLM. Модель предназначена для автоматического распознавания речи и транскрибации аудио; в основе — плотная архитектура Qwen3ASRForConditionalGeneration с аудиобашней и языковой моделью. Квантизация NVFP4 применяется только к языковой части примерно на 1,4 млрд параметров из общего объёма около 1,7 млрд; аудиобашня и выходная голова остаются в BF16. Модель поддерживает распознавание речи на нескольких языках, включая английский, китайский, русский, французский, немецкий, японский, корейский, испанский и другие. По приведённому тесту на 760 образцах VIVOS WER составил 10,73% против 7,34% у версии BF16; при высокой конкурентности NVFP4 показала более высокую пропускную способность в описанной конфигурации. Для использования указаны NVIDIA ModelOpt и vLLM. Лицензия — Apache-2.0.

1.8K7март 2026ctx131.1K
textaudioapache-2.0hugging-face
crash-sv
scribe-whisper-turbo-int8

Это версия Whisper large-v3-turbo от OpenAI, преобразованная Viacheslav Smirnov в формат CTranslate2 с квантизацией int8. Модель предназначена для распознавания речи и перевода аудио в текст; её распространяют для загрузки утилитой Scribe SV для диктовки и перевода в Windows, в том числе на компьютерах без CUDA GPU. Ничего не дообучалось: веса напрямую преобразованы из openai/whisper-large-v3-turbo. README приводит замеры на русском аудио: WER составил 4,25% для int8 на CPU против 3,54% для float16 на CUDA. В тех же условиях обработка записи длиной 194 секунды заняла 58,2 секунды на CPU; распознавание коротких фраз длилось около 5 секунд. Модель использует CTranslate2 и распространяется по лицензии MIT с сохранением исходных лицензий.

1820авг. 2026
textaudiomithugging-face
pyannote
speaker-diarization

pyannote/speaker-diarization — открытая предварительно обученная модель-пайплайн команды pyannote, предназначенная для диаризации речи в аудиозаписях. Она определяет, кто и когда говорит, автоматически выполняя сегментацию речи, обнаружение смены говорящих и обработку перекрывающейся речи. Пайплайн рассчитан на применение в автоматическом распознавании речи и других сценариях анализа разговорного аудио. Модель работает с аудио и построена на базе pyannote.audio 2.1.1. Она не требует ручного задания голосовой активности, количества говорящих, дообучения внутренних моделей или настройки гиперпараметров под каждый датасет, однако позволяет указать точное или приблизительное число говорящих. Результат можно экспортировать в формате RTTM. Языки, размер модели, точная архитектура и максимальная длина контекста в README не указаны. Сильными сторонами являются полностью автоматическая обработка, поддержка перекрывающейся речи и возможность задавать ограничения на число говорящих. Производительность зависит от оборудования: заявленное измерение составляет около 1,5 минуты на обработку одного часа разговора при использовании Nvidia Tesla V100 и Intel Cascade Lake 6248. Точность заметно различается между наборами данных, поэтому модель следует проверять на целевом типе аудио. Для использования требуется принять условия доступа к модели и связанному компоненту pyannote/segmentation, а также создать токен Hugging Face. Лицензия — MIT.

278K1.3Kмарт 2022
textaudiomithugging-face
argmaxinc
speakerkit-coreml

argmaxinc/speakerkit-coreml — набор моделей SpeakerKit в формате Core ML для обработки речи в экосистеме Apple. Репозиторий связан с WhisperKit и pyannote; карточка указывает задачу автоматического распознавания речи и входные аудиоданные. Архитектура и результаты оценки описаны в статье Interspeech 2025, на которую ссылается README. Модель предназначена для сценариев распознавания речи и диаризации — определения говорящих в аудиозаписи. Формат Core ML позволяет использовать её в приложениях на устройствах Apple; библиотека WhisperKit предоставляет соответствующую интеграцию. Модели, на которых построен SpeakerKit, распространяются по лицензии CC BY 4.0; Swift-фреймворк SpeakerKit имеет лицензию MIT.

42K3март 2026
textaudiocc-by-4.0hugging-face
kyutai
stt-2.6b-en-trfs

Kyutai STT 2.6B — модель Kyutai для потоковой транскрибации речи на английском языке. Она начинает выдавать текст после поступления первых секунд аудио, поэтому подходит для приложений с распознаванием речи в реальном времени. Модель построена на архитектуре Transformer с декодером, использует многопоточную архитектуру Moshi: аудио кодируется токенизатором Mimi, а модель предсказывает текстовые токены с учётом аудиопотока. В репозитории указано 3,2 млрд параметров; задержка вывода составляет около 2,5 секунды. Модель рассчитана на потоковое распознавание, в том числе при шуме, и может обрабатывать аудио длительностью до двух часов без дополнительных изменений. Текст транскрипции включает заглавные буквы и пунктуацию; временные метки токенов можно восстановить с учётом смещения текстового потока. Для работы предусмотрена интеграция с Transformers версии 4.53.0 и выше. Веса распространяются по лицензии CC BY 4.0.

13K10июнь 2025ctx750
textaudiocc-by-4.0hugging-face
nvidia
stt_en_conformer_ctc_large

NVIDIA Conformer-CTC Large (en-US) — модель распознавания речи, разработанная NVIDIA и обученная с помощью инструментария NeMo. Это крупный вариант архитектуры Conformer с CTC-декодированием, примерно 120 млн параметров; модель работает без авторегрессионной генерации и принимает монофоническое аудио WAV с частотой 16 кГц, выдавая транскрипцию в виде текста. Модель предназначена для транскрибирования английской речи, в том числе в пакетной обработке аудиофайлов и в серверных развертываниях через NVIDIA Riva. Она обучена на нескольких тысячах часов речи из LibriSpeech, Fisher, Switchboard, WSJ, VoxPopuli, Common Voice и других корпусов. В README приведены показатели WER на нескольких тестовых наборах; подключение внешней языковой модели при развертывании через Riva может улучшить точность. Распознавание может быть менее точным для технической лексики, разговорных вариантов речи и акцентов, недостаточно представленных в обучающих данных. Лицензия модели — CC BY 4.0.

7.9K35апр. 2022
textaudiocc-by-4.0hugging-face
nvidia
stt_en_fastconformer_hybrid_large_streaming_multi

NVIDIA Streaming Conformer-Hybrid Large — англоязычная модель распознавания речи, разработанная NVIDIA и обученная с помощью инструментария NeMo. Она предназначена для потоковой транскрибации и поддерживает несколько настроек задержки: от 0 до 1040 мс. В карточке указано, что семейство использует cache-aware FastConformer-Hybrid примерно на 114 млн параметров и обучено на больших наборах английской речи. Модель сочетает декодеры Transducer и CTC и принимает монофонический звук в формате WAV с частотой 16 кГц, выдавая распознанную речь в виде текста. Её можно использовать для транскрибации в реальном времени, а также дообучать на других наборах данных с помощью NeMo. Лицензия — CC BY 4.0. Качество может снижаться на технической лексике, разговорных формах и акцентированной речи, особенно если такие варианты недостаточно представлены в обучающих данных.

2.1K28окт. 2023
textaudiocc-by-4.0hugging-face
Kaousheik
tempo-sft-stage2-realonly

TEMPO SFT Stage 2 — дообученная модель Kaousheik на базе NVIDIA Audio Flamingo 3 для анализа речи, звуков и музыки с привязкой ответов ко времени. Архитектура Audio Flamingo 3 объединяет аудиокодировщик Whisper-large и Qwen2-7B; в этом варианте используется временной мультимодальный проектор. Модель принимает аудио и выдаёт текст с временными метками для пяти связанных задач: распознавания речи, диаризации говорящих, поиска временного интервала по текстовому запросу, плотного описания звуковых событий и анализа музыки. Вариант Stage 2 обучен на реальных данных и предназначен, в частности, для разметки разговоров и встреч, локализации событий в аудиозаписи и временного анализа музыкальных элементов. Модель рассчитана на английский язык. Токенизация времени ограничивает метки интервалами до 60 секунд, поэтому более длинные записи нужно разбивать на фрагменты. Качество распознавания многоголосой речи и определения аккордов ограничено; метки говорящих произвольны между разными клипами. Лицензия указана как other, конкретные условия в предоставленных материалах не раскрыты.

580авг. 2026ctx32.8K
textaudiootherhugging-face
fixie-ai
ultravox-v0_4_1-llama-3_1-70b

Ultravox v0.4.1 70B — мультимодальная речевая языковая модель от Fixie.ai. Она построена на Llama 3.1 70B Instruct и использует Whisper Large v3 Turbo для обработки речи. Модель принимает аудио вместе с текстовым контекстом, например текстовую системную инструкцию и голосовое сообщение, а в ответ генерирует текст. Модель предназначена для голосовых агентов, анализа устной речи и перевода речи. В README приведены результаты оценки перевода между английским и арабским, немецким и испанским языками. Версия не проходила preference tuning. Генерация аудио не поддерживается. Модель распространяется по лицензии MIT.

8425нояб. 2024ctx131.1K
textaudiomithugging-face
tencent
Unified_Audio_Schema

Unified Audio Schema (UAS-Audio) — аудиоязыковая модель, разработанная авторами проекта Unified Audio Schema на базе Qwen2.5-7B и обученная с использованием их схемы супервизии. Она принимает текст и аудио и может выдавать текст и аудио, поддерживая чередование модальностей. Модель предназначена для диалогов с текстовым или речевым вводом, распознавания речи, описания аудиособытий и синтеза речи. Подход разделяет обучение на транскрипцию, паралингвистические характеристики и нелингвистические события, чтобы модель учитывала содержание речи и другие особенности аудио. Авторы сообщают о результатах на бенчмарках понимания аудио, ASR и TTS. Для восстановления звуковой волны из сгенерированных аудиотокенов требуется декодер StableToken. Модель опубликована в формате safetensors; лицензия указана как other, поэтому условия её использования следует сверить с карточкой репозитория.

10711апр. 2026
textotherhugging-face
microsoft
unispeech-sat-base-plus-sd

UniSpeech-SAT-Base-Plus-SD — модель Microsoft для диаризации речи, дообученная на LibriMix с линейным слоем поверх представлений UniSpeech-SAT. Архитектура UniSpeech-SAT, около 113,3 млн параметров; веса доступны в формате PyTorch. Принимает речевое аудио с частотой дискретизации 16 кГц и выдаёт покадровые классификационные результаты, используемые для определения говорящих во времени. Базовая UniSpeech-SAT предварительно обучена на 94 тысячах часов аудиоданных Libri-Light, GigaSpeech и VoxPopuli с самообучением и учётом признаков говорящего. Модель предназначена для разделения речи по говорящим в аудиозаписях и может служить компонентом конвейера анализа разговоров. В метаданных указан английский язык; это не означает, что поддержка ограничена только им. Карточка не сообщает точные метрики качества или максимальную длительность входа. Для работы требуется аудио 16 кГц. Лицензия в предоставленных данных не указана.

2731март 2022
texthugging-face
aconeil
w2v2-lmk_updated

aconeil/w2v2-lmk_updated — модель автоматического распознавания речи на архитектуре wav2vec 2.0, дообученная на базе facebook/wav2vec2-large-xlsr-53. Она предназначена для преобразования аудиозаписей речи в текст. Модель содержит 402,7 млн параметров и использует архитектуру Wav2Vec2ForCTC. В README приведены результаты на оценочном наборе: WER 0,5749 и CER 0,2049. Для обучения использован набор данных audiofolder. Модель распространяется в формате safetensors по лицензии Apache-2.0. Язык распознавания и подробные ограничения в карточке не описаны.

210нояб. 2025
textaudioapache-2.0hugging-face
hf-audio
wav2vec2-bert-CV16-en

wav2vec2-bert-CV16-en — модель автоматического распознавания речи, разработанная на основе ylacombe/w2v-bert-2.0 и дообученная на англоязычном наборе MOZILLA-FOUNDATION/COMMON_VOICE_16_0. Она построена на архитектуре Wav2Vec2BertForCTC и содержит 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст; карточка указывает результаты на тестовой выборке: WER 0,1455 и CER 0,0580. Репозиторий использует формат safetensors. Лицензия в предоставленных данных не указана.

1.7K8янв. 2024
textaudiohugging-face
GroNLP
wav2vec2-dutch-large-ft-cgn

GroNLP/wav2vec2-dutch-large-ft-cgn — модель распознавания нидерландской речи, разработанная на основе архитектуры Wav2Vec2. Исходную англоязычную facebook/wav2vec2-large дополнительно предварительно обучили на нидерландской речи из корпуса Het Corpus Gesproken Nederlands, а затем дообучили с помощью CTC. Модель содержит около 402,7 млн параметров и принимает аудио, выдавая распознанный текст. Модель предназначена для автоматической транскрипции нидерландской речи. В карточке указаны форматы PyTorch и Safetensors; лицензия и ограничения по применению в предоставленных данных не описаны.

2371апр. 2022
textaudiohugging-face
Edresson
wav2vec2-large-100k-voxpopuli-ft-Common-Voice_plus_TTS-Dataset-russian

Edresson/wav2vec2-large-100k-voxpopuli-ft-Common-Voice_plus_TTS-Dataset-russian — русскоязычная модель распознавания речи на архитектуре Wav2Vec2 Large с выходной головой CTC. Её дообучили на базе Wav2Vec2 Large 100k VoxPopuli с использованием Common Voice 7.0 и M-AILABS. Модель принимает аудио и преобразует русскую речь в текст. Она подходит для автоматической транскрибации записей и голосовых данных в приложениях на базе Transformers. Размер — 402,7 млн параметров; файлы представлены в формате PyTorch. Лицензия — Apache-2.0. README отсылает за результатами к статье, поэтому численные показатели качества здесь не приводятся.

346март 2022
textaudioapache-2.0hugging-face
jonatasgrosman
wav2vec2-large-english

jonatasgrosman/wav2vec2-large-english — модель распознавания английской речи, дообученная Jonatas Grosman на основе facebook/wav2vec2-large. Она использует архитектуру Wav2Vec2 с CTC-выходом и содержит 402,7 млн параметров. Модель преобразует аудиозаписи в текст и рассчитана на английскую речь; входной звук должен быть дискретизирован с частотой 16 кГц. Модель подходит для транскрибирования английской речи, в том числе записей, похожих на примеры из Common Voice 6.1. В оценке на тестовых данных Common Voice автор сообщает WER 21,53% и CER 9,66%; результаты зависят от данных и способа оценки. Для использования опубликована лицензия Apache-2.0.

415март 2022
textaudioapache-2.0hugging-face
jonatasgrosman
wav2vec2-xls-r-1b-english

jonatasgrosman/wav2vec2-xls-r-1b-english — модель распознавания английской речи, дообученная автором карточки с помощью HuggingSound на базе facebook/wav2vec2-xls-r-1b. Она преобразует аудиозапись в текст и подходит для транскрибирования речи, в том числе записей из наборов Common Voice, Multilingual LibriSpeech, TED-LIUMv3 и VoxPopuli. Архитектура — Wav2Vec2ForCTC семейства wav2vec2; число параметров — 1,3 млрд. Для входного аудио требуется частота дискретизации 16 кГц. Модель принимает аудио и выдаёт текст, поддерживаемый язык — английский. Распространяется в формате PyTorch по лицензии Apache-2.0.

7489март 2022
textaudioapache-2.0hugging-face

Задачи профессии

17 задач
105Преобразование речи в текст. — AI преобразует аудиосигнал в текст, учитывая шум, акцент, темп речи и профессиональную лексику. Результат содержит стенограмму с таймкодами, знаками препинания и пометками фрагментов с низкой уверенностью. Качество оценивают по word error rate и отдельно проверяют имена, числа, термины и участки с перекрывающейся речью.
106Разделение записи по говорящим. — Для этой задачи система сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: распознаёт речь, разделяет участников и связывает реплики с темами, решениями и действиями. Рабочие входы: аудиопоток, потоковая речь, контекст диалога, роли участников и повестка встречи. Формат результата: результат «Разделение записи по говорящим» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
107Определение границ реплик и смены тем. — Практическая реализация: AI последовательно исключает несовместимые варианты и фиксирует признаки, на которых основан итог. Предметная логика: распознаёт речь, разделяет участников и связывает реплики с темами, решениями и действиями. Входной контекст включает аудиопоток, контекст диалога, роли участников, повестка встречи и аудиозаписи. Формат результата: установленное значение или вариант по задаче «Определение границ реплик и смены тем» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
108Восстановление плохо слышимых слов по контексту. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: роли участников, повестка встречи, аудиозаписи и потоковая речь. Формат результата: преобразованный материал по задаче «Восстановление плохо слышимых слов по контексту» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
109Создание протокола встречи. — AI превращает запись встречи в структурированный протокол: выделяет темы, решения, аргументы, поручения, сроки и ответственных и связывает каждый пункт с таймкодом. На вход поступают запись, повестка и список участников. На выходе — редактируемый протокол и список действий; участники подтверждают спорные формулировки и ответственность за решения.
110Выделение решений, поручений, сроков и ответственных. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: аудиозаписи, потоковая речь, контекст диалога и роли участников. Формат результата: структурированные данные, полученные в рамках «Выделение решений, поручений, сроков и ответственных», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
111Определение вопросов, оставшихся без ответа. — Практическая реализация: AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. Входной контекст включает потоковая речь, контекст диалога, роли участников и повестка встречи. Формат результата: установленное значение или вариант по задаче «Определение вопросов, оставшихся без ответа» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
112Сводка позиции каждого участника дискуссии. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: контекст диалога, роли участников, повестка встречи и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Сводка позиции каждого участника дискуссии», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — разговорный артефакт. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
113Поиск нужного момента внутри длинной аудиозаписи. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, роли участников, повестка встречи, аудиозаписи и потоковая речь. Формат результата: ранжированный список кандидатов по задаче «Поиск нужного момента внутри длинной аудиозаписи» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
114Оценка соблюдения сценария разговора. — Для этой задачи система собирает относящиеся к объекту показатели, приводит их к сопоставимому виду и рассчитывает оценку по явным критериям. Предметная логика: распознаёт речь, разделяет участников и связывает реплики с темами, решениями и действиями. Рабочие входы: аудиопоток, повестка встречи, аудиозаписи, потоковая речь и контекст диалога. Формат результата: оценка по задаче «Оценка соблюдения сценария разговора» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Критерии приёмки: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
115Определение намерения, темы и срочности обращения. — Практическая реализация: AI объединяет несколько источников свидетельств и выбирает наиболее обоснованное определение с оценкой уверенности. Входной контекст включает аудиозаписи, потоковая речь, контекст диалога и роли участников. Формат результата: установленное значение или вариант по задаче «Определение намерения, темы и срочности обращения» с оценкой уверенности и основаниями решения. Ошибки выявляют по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
116Подсказки оператору или участнику разговора в реальном времени. — Механизм: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: распознаёт речь, разделяет участников и связывает реплики с темами, решениями и действиями. Исходные данные: аудиопоток, потоковая речь, контекст диалога, роли участников и повестка встречи. Формат результата: несколько вариантов для «Подсказки оператору или участнику разговора в реальном времени», ранжированных по полезности, ограничениям и причинам выбора. Проверка: по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
117Автоматическая генерация последующего письма по итогам разговора. — AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: распознаёт речь, разделяет участников и связывает реплики с темами, решениями и действиями. К исходным данным относятся аудиопоток, контекст диалога, роли участников, повестка встречи и аудиозаписи. Формат результата: редактируемый артефакт по задаче «Автоматическая генерация последующего письма по итогам разговора», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — разговорный артефакт. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
118Синтез речи из текста. — Для этой задачи система сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Рабочие входы: текст, роли участников, повестка встречи, аудиозаписи и потоковая речь. Формат результата: преобразованный материал по задаче «Синтез речи из текста» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
119Клонирование или персонализация голоса при наличии прав и согласия. — Практическая реализация: AI обновляет персональные настройки по обратной связи и отделяет устойчивые предпочтения от случайного поведения. Предметная логика: оценивает релевантность и полезность вариантов, учитывая разнообразие и долгосрочные цели. Входной контекст включает профиль пользователя, повестка встречи, аудиозаписи, потоковая речь и контекст диалога. Формат результата: адаптированный вариант для «Клонирование или персонализация голоса при наличии прав и согласия» с указанием контекста и факторов, определивших персонализацию. Ошибки выявляют по пользовательской обратной связи, долгосрочной полезности и отсутствию нежелательной дискриминации; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
120Изменение темпа, произношения, акцента или эмоциональной окраски синтезированной речи. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. Исходные данные: текст, аудиозаписи, потоковая речь, контекст диалога и роли участников. Формат результата: преобразованный материал по задаче «Изменение темпа, произношения, акцента или эмоциональной окраски синтезированной речи» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий.
121Создание голосового интерфейса для управления системой. — AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: моделирует фонетику, просодию и тембр, сохраняя естественность и разборчивость. К исходным данным относятся текст, потоковая речь, контекст диалога, роли участников и повестка встречи. Формат результата: редактируемый артефакт по задаче «Создание голосового интерфейса для управления системой», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — разговорный артефакт. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; по точности распознавания, атрибуции реплик, полноте решений и корректности выделенных действий. <a id="section-i-8"></a>

0 моделей