I.7Речь, диалоги и встречи
В разделе собраны самостоятельные задачи, где AI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 923 моделиМодель anuragshas/wav2vec2-xls-r-300m-bn-cv9-with-lm — дообученная версия facebook/wav2vec2-xls-r-300m для автоматического распознавания речи на бенгальском языке. Она основана на архитектуре Wav2Vec2ForCTC и обучена на бенгальской части набора Mozilla Common Voice 9.0. Репозиторий содержит веса PyTorch; общее число параметров — около 402,7 млн. Модель предназначена для преобразования бенгальской речи в текст, например, для расшифровки записей и голосового ввода. В README приведены результаты оценки на тестовом наборе: WER 0,285 и CER 0,066. Модель распространяется по лицензии Apache-2.0; качество на других наборах данных и в реальных условиях может отличаться.
Модель vitouphy/wav2vec2-xls-r-300m-japanese — дообученная на Common Voice 8.0 японская система автоматического распознавания речи, созданная на основе facebook/wav2vec2-xls-r-300m. Она преобразует аудио в японский текст, выводя его в хирагане. Для подготовки текста и токенизации автор преобразовал кандзи и катакану в хирагану с помощью pykakasi и использовал fugashi. Модель построена на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров. В README приведены результаты оценки на Common Voice и speech-recognition-community-v2, включая CER и WER; применение языковой модели улучшает указанные метрики. Модель подходит для транскрибирования японской речи, когда требуется запись хираганой. Лицензия — Apache-2.0.
techiaith/wav2vec2-xlsr-53-ft-cy-en — акустическая модель распознавания валлийской и английской речи, разработанная Techiaith. Она дообучена на основе facebook/wav2vec2-large-xlsr-53 с использованием спонтанной речи из корпуса Banc Trawsgrifiadau Bangor и валлийских и английских данных Common Voice 16.1. Модель построена на архитектуре Wav2Vec2ForCTC и содержит 402,7 млн параметров. Она принимает аудио и преобразует речь в текст; основное назначение — транскрибация валлийской и английской речи. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.
Whisper для распознавания речи, дообученная Mohammed Nasri на алжирском диалекте арабского языка с переключением на французский. Модель основана на openai/whisper-tiny, содержит 153,1 млн параметров и принимает аудио, выдавая текстовую транскрипцию. Для обучения использовалась алжирская часть набора UBC-NLP/Casablanca; в карточке указана частота ошибок слов около 23% на валидационной выборке. Модель предназначена для транскрибирования речи на алжирском диалекте, в том числе в записях с арабско-французским переключением. Автор описывает обучение как демонстрационное и отмечает, что для производственного применения рекомендуется более длительное дообучение. Лицензия — Apache-2.0.
quinnb/whisper-Large-v3-hindi — дообученная модель семейства Whisper Large v3 для автоматического распознавания речи на хинди. Она принимает аудио и выдаёт распознанный текст. Модель содержит около 905,2 млн параметров и использует архитектуру WhisperForConditionalGeneration; в репозитории представлены веса safetensors. Для дообучения использован набор Common Voice 17.0. Модель предназначена для транскрибирования речи на хинди, в том числе записей, похожих на материал Common Voice. Она распространяется по лицензии Apache-2.0. README не содержит сведений о точности или оценке качества, поэтому нельзя судить о её надёжности на других типах аудио.
Это дообученная на базе openai/whisper-medium модель распознавания речи, опубликованная пользователем dianavdavidson. Она предназначена для преобразования аудиоречи в текст; название указывает на настройку для хинди и датасет Vaani, однако README не уточняет обучающие данные и сценарии применения. В метаданных указаны архитектура Whisper, библиотека Transformers и формат весов safetensors. В README приведены результаты оценки: Loss 0,4088 и Global WER 29,3511. Эти значения описывают оценку на указанном наборе, но без сведений о методике и данных их нельзя напрямую переносить на другие аудиозаписи. Модель распространяется по лицензии Apache-2.0.
Whisper Medium Urdu — модель распознавания речи, дообученная на основе openai/whisper-medium командой, опубликовавшей репозиторий ihanif/whisper-medium-urdu. Она предназначена для преобразования речи на урду в текст и использует архитектуру Whisper с 455,8 млн параметров. Модель принимает аудио и выдаёт текст; обучение выполнено на урду-части набора Common Voice 11.0 от Mozilla Foundation. На оценочной выборке указаны значение потерь 0,4685 и WER 26,9801. Модель опубликована в форматах PyTorch и safetensors под лицензией Apache-2.0. Карточка не приводит дополнительных сведений об условиях записи, методике оценки или иных ограничениях, поэтому результаты могут не отражать качество на аудио из других источников.
HamoonFm/whisper-small-fa — дообученная версия мультиязычной модели Whisper Small от OpenAI для автоматического распознавания речи. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 153,1 млн параметров и принимает аудио, выдавая текстовую транскрипцию. Суффикс «fa» в названии указывает на ориентацию на персидскую речь, однако README не уточняет языки и данные дообучения. В карточке приведены результаты оценки: loss 0,2648 и WER 0,3085. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не описывает ограничения и рекомендуемые сценарии применения; качество распознавания следует проверять на аудио целевого домена.
hezarai/whisper-small-fa — модель распознавания речи на основе Whisper small, дообученная Hezar AI на персидской части набора Common Voice 13. Она преобразует персидскую речь в текст и предназначена для сценариев автоматической транскрибации. Модель распространяется в формате PyTorch и используется через библиотеку Hezar. В карточке не приведены сведения о лицензии и ограничениях качества.
erenfazlioglu/whisper-small-turkish-tr-best — дообученная модель распознавания речи на основе OpenAI Whisper Small. Она предназначена для преобразования аудио в текст; в README приведён результат оценки WER 26,3414 и loss 0,3166. Название репозитория указывает на турецкий язык, однако README не уточняет состав данных или языковой охват. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и доступна в формате PyTorch. Распространяется по лицензии Apache-2.0.
Ratchet + Whisper Tiny — это конверсия модели openai/whisper-tiny из формата GGML в пользовательский формат Ratchet. Модель разработана на основе Whisper от OpenAI, а конверсию выполнил FL33TW00D-HF. README не содержит подробных сведений о назначении, архитектуре, размере, поддерживаемых языках, модальностях и длине контекста исходной модели. Известно только, что это вариант Whisper Tiny, предназначенный для использования в среде или инструментах, поддерживающих формат Ratchet; конкретные сценарии применения не уточнены. Модель распространяется по лицензии Apache-2.0. Сильной стороной является адаптация модели к формату Ratchet, однако ограничения и требования к аппаратному обеспечению в карточке модели не указаны.
Whisper-tiny Hinglish (Romanized) — модель распознавания речи, созданная дообучением openai/whisper-tiny. Она преобразует индийскую речь на хинди, английском и Hinglish с переключением языков в естественный текст латиницей, включая чисто хиндиязычную речь. Модель предназначена для диктовки на устройствах и других сценариев транскрибации; README описывает архитектуру Whisper с 4 слоями энкодера и 4 слоями декодера, входное аудио 16 кГц и размер около 39 млн параметров, тогда как метаданные указывают 29,4 млн. Модель обучали на индийской речи с акцентом и переключением между хинди и английским, в том числе на материалах HiACC, MUCS и Common Voice. Её сильные стороны — компактность, скорость на CPU и прямой вывод романизированного текста без отдельного этапа транслитерации. Качество может снижаться на шумной записи, быстрой речи, сильных акцентах, перекрывающихся голосах и специальной лексике; пунктуация и регистр ненадёжны, а качество на длинных записях не проверено. Романизация фонетическая и может иметь разные варианты написания. Лицензия в предоставленных данных не указана.
GlowLED/whisper-tiny-minds14-en — модель распознавания речи на архитектуре Whisper, дообученная на openai/whisper-tiny на первых 450 примерах англоязычной части датасета PolyAI/minds14 (en-US). Она предназначена для преобразования речи в текст, в частности коротких высказываний в сценариях, связанных с MInDS-14. В карточке указана нормализованная WER 0,2341. Модель использует Transformers и веса safetensors; для запуска README указывает WhisperForConditionalGeneration и WhisperProcessor. Данных о лицензии, числе параметров и длине контекста в предоставленных источниках нет.
geninhu/xls-asr-vi-40h-1B — модель распознавания речи на вьетнамском языке, разработанная путём дообучения facebook/wav2vec2-xls-r-1b на 40 часах данных FPT Open Speech Dataset и Common Voice 7.0. Это модель архитектуры wav2vec2 с классом Wav2Vec2ForCTC и 1,3 млрд параметров; она принимает аудио и выдаёт текстовую транскрипцию. Модель предназначена для преобразования вьетнамской речи в текст. В карточке приведены результаты оценки на VIVOS и Common Voice 7.0/8.0 с языковой моделью 4-грамм и без неё. Для Apache-2.0 лицензии допускается использование и распространение на её условиях.
Модель patrickvonplaten/xls-r-300-sv-cv7 — дообученная версия facebook/wav2vec2-xls-r-300m для автоматического распознавания шведской речи. Она использует архитектуру Wav2Vec2ForCTC и содержит около 402,7 млн параметров. Модель обучена на шведской части набора Mozilla Common Voice 7.0 и принимает аудио, выдавая распознанный текст. На тестовой выборке Common Voice 7.0 для конфигурации sv-SE указана WER 0,2334 и loss 0,2604. Модель подходит для транскрибации шведской речи в сценариях, близких к этому набору данных; результаты на других акцентах, условиях записи и типах речи могут отличаться. Лицензия — Apache-2.0.
Apollo-Astralis V1 4B — разговорная модель для рассуждений, разработанная VANTA Research на основе Qwen3-4B-Thinking. Это авторегрессионный трансформер семейства Qwen3 с 3,7 млрд параметров по метаданным; модель дообучена методом LoRA и настроена на пошаговое рассуждение, совместное решение задач и тёплое, эмпатичное общение. Она предназначена для диалогов, логического анализа, объяснения решений и поддерживающих ответов. Модель рассчитана прежде всего на английский язык; контекстное окно составляет 262 144 токена по метаданным. Выпускается под лицензией Apache 2.0. Модель может чрезмерно эмоционально реагировать даже в ситуациях, требующих спокойного тона; она не оптимизирована для задач соревновательной математики и может испытывать трудности в узкоспециализированных технических областях. Ответы могут содержать фактические ошибки, поэтому важные сведения следует проверять.
rifailabs выпустила дообученную версию OpenAI Whisper Small для автоматического распознавания речи на шикомори и суахили. Модель принимает аудио и генерирует текстовую транскрипцию; в карточке указано 153,1 млн параметров и формат весов safetensors. Она основана на мультиязычной архитектуре Whisper и распространяется по лицензии Apache-2.0. В README приведены результаты оценки: WER 39,50 и CER 13,76 на тестовом наборе. Датасет и подробности оценки не описаны, поэтому эти показатели не позволяют уверенно судить о качестве на других записях или языках.
Карточка модели nguyenvulebinh/AV-HuBERT-MuAViC-de на Hugging Face совпадает с карточкой nguyenvulebinh/AV-HuBERT-MuAViC-en, поэтому описание составлено по ней. nguyenvulebinh/AV-HuBERT-MuAViC-en — реализация AV-HuBERT, разработанная на основе модели Audio-Visual Hidden Unit BERT и обученная на корпусе MuAViC. Это плотная модель с 403,7 млн параметров для распознавания речи по аудио и видео; сочетание модальностей предназначено для повышения устойчивости распознавания, особенно в шумных условиях. Репозиторий также содержит сценарии инференса и предварительной обработки аудио и видеокадров. Модель предназначена для аудиовизуального распознавания речи на английском языке. Весы опубликованы в формате safetensors и используются через Transformers. README указывает, что модель дообучена на MuAViC; отдельная лицензия в предоставленных данных не указана.
Belle-whisper-large-v2-zh — модель распознавания китайской речи, созданная командой BELLE-2 путём полного дообучения Whisper large-v2 от OpenAI. Она предназначена для транскрибации китайской речи и показывает улучшение относительно исходной модели на тестах AISHELL-1, AISHELL-2, WenetSpeech и HKUST. Модель принимает аудио с частотой дискретизации 16 кГц и выдаёт текст; в метаданных указаны архитектура Whisper, 905,2 млн параметров и форматы PyTorch и Safetensors. Лицензия — Apache-2.0. Результаты в README показывают снижение CER на перечисленных китайских тестовых наборах. Эти показатели относятся к конкретным бенчмаркам и не гарантируют такого же качества на других условиях записи, диалектах или типах аудио.
Alvenir/bert-punct-restoration-da — модель на архитектуре BERT для восстановления пунктуации в датских текстах. Она классифицирует токены в последовательности, используя подход, похожий на обучение моделей распознавания именованных сущностей. Для запуска авторы предлагают пакет punctfix, построенный на TokenClassificationPipeline из Hugging Face Transformers. Модель содержит 137,8 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метки для токенов, используемые для восстановления пунктуации. Она предназначена для обработки датского языка. Доступна на условиях лицензии Apache-2.0. Сведения о составе обучающих данных и результатах оценки в карточке не приведены.
BR-Voice-Reasoner — мультимодальная модель для голосового взаимодействия, разработанная BR Group на основе Qwen3-Omni-30B-A3B-Thinking. Она принимает аудио и отвечает текстом, позволяя задавать вопросы по речи и получать ответы без отдельного этапа транскрибирования. Подходит для голосовых вопросов на общие знания, многошаговых рассуждений, следования инструкциям и открытого диалога, включая сценарии с требованиями безопасности и отказами. Модель использует архитектуру Mixture-of-Experts. Дообучение выполнено методом кросс-модальной дистилляции на траекториях, создаваемых самой моделью; обновлялись только два аудиоязыковых проекционных модуля, а языковая модель и аудио- и визуальные энкодеры оставались замороженными. Помимо аудио, README указывает текст, изображения и видео как входы, но визуальные и видеовозможности унаследованы от базовой модели и подробно не переоценивались. Основной фокус обучения и оценки — английский язык. Модель распространяется по лицензии Apache-2.0.
whisper-tiny-calista-basics-v10 — дообученная на наборе cali-name-dataset-short-version модель OpenAI Whisper Tiny для автоматического распознавания речи и транскрибации аудио. Архитектура WhisperForConditionalGeneration; модель принимает аудио и выдаёт текст. В метаданных указан английский язык, а базовая Whisper Tiny поддерживает несколько языков. Модель подходит для распознавания речи в аудиозаписях на английском языке, в том числе имён из обучающего набора. В README приведены результаты на оценочной выборке: Loss 0,0001, WER Ortho 0,0 и WER 0,0; состав и размер выборки не описаны, поэтому эти результаты не гарантируют аналогичного качества на других данных. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.
CHATUtterance-en — модель семейства BERT для сегментации высказываний, выпущенная проектом TalkBank. Это производная BERT-модель с архитектурой BertForTokenClassification, содержащая 136,7 млн параметров и обрабатывающая последовательности длиной до 512 токенов. Модель размечает токены для определения границ высказываний в транскриптах речи. Она обучена на примерах сегментации и диаризации высказываний из корпуса Michigan Corpus of Academic Spoken English. Модель можно использовать как классификатор токенов в Transformers или вместе с пакетом TalkBank Batchalign в режиме transcribe для более полного анализа. Модель предназначена для англоязычных транскриптов. В доступных сведениях не указаны лицензия и конкретные ограничения качества; условия использования следует сверить с карточкой репозитория.
fast-ukrainian-asr-600m — украинская модель распознавания речи, созданная дообучением 600-миллионного мультиязычного SSL-энкодера GigaAM и адаптированная для телефонного аудио. Она предназначена для преобразования украинской речи в текст, в том числе в телефонных записях с частотой 8 кГц после передискретизации до 16 кГц. Модель использует CTC-архитектуру с символьной выходной головой на 38 классов; принимает монофонический звук с частотой 16 кГц и выдаёт текст. По результатам авторского сравнения модель особенно хорошо распознаёт начитанную речь, в том числе аудио в телефонном канале, но слабее справляется со спонтанной разговорной речью. Она предназначена только для украинского: русский язык не поддерживается. Вывод не содержит пунктуации и заглавных букв, а числа записываются словами. По оценке авторов, на CPU модель требует примерно в 2,4 раза больше времени, чем вариант на 220 млн параметров. Лицензия — MIT.
Granite-Speech-4.1-2B-NAR — это мультиязычная модель автоматического распознавания речи, разработанная IBM и преобразованная в формат GGUF проектом handy-computer для работы с transcribe.cpp. Модель предназначена для офлайн-преобразования речи в текст и принимает монофонические WAV-файлы с частотой дискретизации 16 кГц. Поддерживаются английский, французский, немецкий, испанский и португальский языки. Модель использует архитектуру Conformer для аудиоэнкодера, специальный MLP-проектор с механизмом внимания и Granite-4.0-1B в роли двунаправленного редактора. Это non-autoregressive подход: полный текст формируется за один проход без последовательной генерации токенов. Доступны варианты в форматах BF16, F16 и квантизациях Q8_0, Q6_K, Q5_K_M и Q4_K_M; размер файлов составляет примерно от 1,56 до 4,52 ГБ. На LibriSpeech test-clean показатель WER заявлен на уровне 1,28–1,34% в зависимости от варианта. Сильными сторонами являются офлайн-работа, поддержка пяти языков, отсутствие токен-за-токеном декодирования и близкое к эталонному качество при квантизации. Ограничения: потоковая обработка, перевод, определение языка и временные метки не поддерживаются; модель ориентирована только на ASR. Производительность зависит от аппаратной платформы и выбранной квантизации. Распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
Aniemore/hubert-emotion-v1-crosslingual — модель распознавания эмоций в речи на основе HuBERT Large, дообученная Aniemore на смеси 27 939 аудиофрагментов из восьми языков и трёх речевых регистров. Она классифицирует речь по семи классам: гнев, отвращение, энтузиазм, страх, счастье, нейтральность и грусть; принимает аудио вместе с транскриптом. Модель предназначена для анализа эмоциональной окраски как постановочной, так и спонтанной речи. Чекпойнт имеет 402,7 млн параметров и использует архитектуру HubertForSequenceClassification. Репозиторий также содержит варианты int8, fp8 и int4. Модель оценивалась на постановочной русской речи, спонтанных русских подкастах и мультиязычном наборе CAMEO; результаты заметно зависят от типа речи и тестового набора. Лицензия — Apache-2.0, с ограничениями, унаследованными от базовой модели facebook/hubert-large-ls960-ft.
Это дообученная модель Whisper на 455,8 млн параметров, созданная на основе parthiv11/indic_whisper_hi_multi_gpu. Она предназначена для автоматического распознавания речи и транскрибирования аудио; по названию репозитория ориентирована на хинди. В метаданных указан входной аудиосигнал, а формат весов — safetensors. В карточке приведены результаты оценки: loss 0,2711 и Global WER 25,9022. Датасет обучения не указан, поэтому эти показатели не позволяют судить о качестве на конкретных типах записей. Модель распространяется по лицензии MIT.
MiDashengLM-0.6B (MDL-0.6B) — компактная аудиоязыковая модель, разработанная авторами семейства MiDashengLM. Она сочетает языковую основу Qwen3-0.6B с аудиотокенизатором dasheng-base-tokenizer и содержит 0,6 млрд параметров. Модель предназначена для локального распознавания содержания аудио и генерации текстовых описаний; в карточке указана архитектура MiDashengLM, а веса опубликованы в формате safetensors. Модель описывает речь, музыку и окружающие звуки, отвечает на вопросы об аудиозаписи, а также показывает результаты в задачах классификации аудио и распознавания речи. В README представлены предварительные оценки на наборах MECAT, AudioCaps, Clotho, LibriSpeech и других; качество зависит от задачи и набора данных. Поддерживаемые языки по тегам карточки — английский и китайский. Модель распространяется по лицензии Apache-2.0.
Модель csikasote/mms-1b-all-bemgen-combined-train-drodat-gdro-3e-2-dat-5e-1-no-sd-0.00-42 разработана как дообученная версия facebook/mms-1b-all на наборе BEMGEN — BEM. Это модель распознавания речи на архитектуре wav2vec2 с CTC-декодированием, содержащая 1,3 млрд параметров и предназначенная для преобразования аудио в текст. В README приведены результаты оценки на тестовом наборе: loss 12,6062 и CER 0,0541. Модель подходит для сценариев автоматической транскрипции речи; базовая MMS-1B-All поддерживает более тысячи языков, но язык и языковое покрытие именно этой доработанной версии в карточке не уточнены. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Multilingual DistilWhisper — компактная модель распознавания речи от NAVER, созданная на основе Whisper-small с лёгкими CLSR-модулями для повышения качества ASR на целевых языках. Обучение сочетает функцию потерь для распознавания речи и дистилляцию знаний от Whisper-large-v2. Модель предназначена для преобразования аудиозаписей в текст на каталанском, тамильском и тайском языках. Веса объёмом 153,1 млн параметров доступны в форматах PyTorch и Safetensors; лицензия — MIT. Модель опубликована в ноябре 2023 года и описана в работе для ICASSP 2024.