I.7Речь, диалоги и встречи
В разделе собраны самостоятельные задачи, где AI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 923 моделиNbAiLab/wav2vec2-large-voxrex-npsc-bokmaal — модель автоматического распознавания речи на базе архитектуры Wav2Vec2 с декодированием CTC. Репозиторий содержит веса PyTorch примерно на 402,7 млн параметров; модель обучена с нуля, а в метаданных указан датасет NbAiLab/NPSC. Для оценки приведены значения loss 0,1311 и WER 0,1038, однако условия оценки не описаны. Модель предназначена для преобразования аудиоречи в текст. Название указывает на норвежский букмол, но README и метаданные не подтверждают язык обучения явно. Репозиторий распространяется по лицензии Apache-2.0. Карточка не содержит подробностей о рекомендуемых сценариях, ограничениях или процедуре обучения.
Facebook wav2vec2-large-xlsr-53-french — модель распознавания французской речи, основанная на архитектуре wav2vec2 и настроенная для французского языка. Она принимает аудио и преобразует речь в текст; карточка сообщает об оценке на тестовой выборке Common Voice FR — 25,2 %. Модель содержит 402,7 млн параметров и доступна в форматах PyTorch и Flax. Модель подходит для транскрибации французской речи, например, записей и голосовых сообщений. Лицензия — Apache-2.0. Метаданные указывают на обучение или оценивание на Common Voice; сведений о поддержке других языков карточка не приводит.
facebook/wav2vec2-large-xlsr-53-italian — модель распознавания итальянской речи, опубликованная Facebook. Она основана на архитектуре Wav2Vec2 с выходной головой CTC и примерно 402,7 млн параметров. Модель предназначена для преобразования аудиозаписей на итальянском языке в текст; в карточке приведена оценка на тестовой части Common Voice для итальянского языка — 22,1%. Репозиторий содержит веса PyTorch и Flax. Модель подходит для расшифровки записей и оценки систем распознавания итальянской речи. Лицензия — Apache-2.0. Результат оценки приведён без пояснения метрики, поэтому по карточке нельзя определить, означает ли 22,1% ошибку или другую величину качества.
qqpann/wav2vec2-large-xlsr-japanese-0325-1200 — модель автоматического распознавания японской речи, дообученная на основе facebook/wav2vec2-large-xlsr-53. Она использует архитектуру Wav2Vec2ForCTC и содержит около 402,7 млн параметров. В карточке указана настройка аудио с частотой дискретизации 16 кГц; среди связанных с моделью данных указан Common Voice. Модель предназначена для преобразования японской речи в текст, в том числе для транскрибирования записей и аудиоматериалов. Распространяется в формате PyTorch по лицензии Apache-2.0. README содержит шаблонные поля и не приводит измеримого результата оценки, поэтому качество на конкретных записях по карточке определить нельзя.
anuragshas выпустил модель автоматического распознавания речи на хинди, дообученную на базе facebook/wav2vec2-xls-r-1b на наборе Mozilla Common Voice 8.0 для хинди. Модель использует архитектуру Wav2Vec2 с CTC-декодированием; в репозитории указано 1,3 млрд параметров и веса PyTorch. Для декодирования предусмотрен языковой модельный компонент: в оценке на тестовой части Common Voice 8 WER составил 15,899 с LM и 26,209 без LM. Модель подходит для транскрибирования записей речи на хинди, в том числе голосовых образцов, близких к данным Common Voice. В README также приведён результат WER 0,3547 на оценочном наборе без уточнения условий, поэтому показатели могут различаться в зависимости от декодирования и настройки оценки. Лицензия — Apache-2.0.
Это модель автоматического распознавания речи на польском языке, разработанная Jonatas Grosman путём дообучения facebook/wav2vec2-xls-r-1b с помощью HuggingSound. Она использует архитектуру Wav2Vec2ForCTC и предназначена для преобразования польской речи в текст; в обучении использованы обучающая и валидационная части Common Voice 8.0, Multilingual LibriSpeech и Voxpopuli. Модель содержит 1,3 млрд параметров и принимает аудио с частотой дискретизации 16 кГц. Для распознавания польской речи её можно применять к аудиозаписям и речевым данным из различных источников. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Качество распознавания зависит от записи и соответствия входного аудио требованию 16 кГц; сведения о производительности в конкретных условиях в карточке не приведены.
Это модель автоматического распознавания речи на турецком языке, созданная mpoyraz дообучением facebook/wav2vec2-xls-r-300m. Она использует архитектуру wav2vec2 с выходным слоем CTC и принимает аудио, преобразуя речь в текст. Модель дообучена на проверенной части Common Voice 8.0 на турецком языке; для языкового моделирования также подготовлена n-граммная модель KenLM на статьях турецкой Википедии. Модель предназначена для транскрибирования турецкой речи. В карточке приведены результаты оценки: WER 10,61 и CER 2,67 на тестовой части Common Voice 8.0, а также WER 36,46 и CER 12,38 на Speech Recognition Community dev data. Лицензия — Apache 2.0. Показатели зависят от набора данных и условий записи; на втором наборе ошибок заметно больше.
dbdmg/wav2vec2-xls-r-300m-italian-robust — акустическая модель распознавания итальянской речи, дообученная на базе facebook/wav2vec2-xls-r-300m. Она использует архитектуру Wav2Vec2ForCTC и содержит 402,7 млн параметров. Для обучения использованы итальянские части наборов Common Voice 7.0, LibriSpeech multilingual, TED multilingual, Voxforge, M-AILABS, EuroParl-ST, EMOVO и MSPKA. Модель принимает аудио и преобразует речь в текст; карточка не описывает дополнительные режимы работы или длину контекста. Репозиторий предоставляет веса PyTorch и Safetensors. Лицензия — Apache 2.0.
Wav2Vec_VinData — модель распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53. Она использует архитектуру Wav2Vec2ForCTC и содержит около 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст. В README приведены результаты оценки: WER 0,3143, CER 0,1316 и loss 0,8569. Данные обучения и оценки, целевой язык и предполагаемые сценарии применения не описаны, поэтому эти результаты не позволяют определить качество модели для конкретного языка или условий записи. Модель распространяется по лицензии Apache-2.0.
WavLM-large-CORAA-pt — модель распознавания речи, созданная дообучением microsoft/wavlm-large на наборе данных CORAA. Она использует архитектуру WavLM Large с декодером CTC и содержит около 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст; карточка указывает португальский язык. На оценочном наборе CORAA указаны loss 0,6144 и WER 0,3840. Модель подходит для транскрибирования португальской речи, в том числе для последующей обработки расшифровок в приложениях. Лицензия — Apache-2.0. Подробности о тренировочных данных, условиях записи и ограничениях применения в карточке не раскрыты.
Whisper Base LiteRT — это экспорт модели openai/whisper-base в формате LiteRT TFLite, разработанный OpenAI. Модель предназначена для автоматического распознавания речи и преобразования аудиосигнала в текст; её можно использовать в приложениях и на устройствах, поддерживающих выполнение LiteRT-моделей. В репозитории представлена модель whisper_base_30s_f32.tflite с вычислениями в формате FP32 и раздельными сигнатурами encode и decode. Энкодер принимает входной тензор float32 размерности [1,80,3000] и возвращает представление размерности [1,1500,512]. Декодер принимает это представление, последовательность токенов int32 размерности [1,128] и дополнительный тензор внимания, формируя выходные логиты размерности [1,128,51865]. По имени файла экспорт рассчитан на аудиофрагменты длительностью до 30 секунд. Сильной стороной модели является перенос Whisper в компактный формат LiteRT TFLite, подходящий для интеграции в среды с поддержкой этого формата. README не содержит сведений о точном перечне языков, требованиях к ресурсам, производительности, качестве распознавания или особенностях поддержки потоковой обработки, поэтому эти характеристики нельзя надёжно оценить. Репозиторий распространяется по лицензии Apache 2.0.
Это модель автоматического распознавания речи на венгерском языке, созданная сообществом на основе openai/whisper-base. Она объединяет взвешенным усреднением параметров две венгерские дообученные версии: 90% весов whisper-hu-base-finetuned-V2 и 10% whisper-base-hungarian_v4. Модель содержит 51,7 млн параметров и доступна в формате safetensors для Transformers. Модель предназначена для преобразования венгерской речи в текст, в том числе для записей с фоновым шумом. В тестах авторов она показала более низкий WER на FLEURS hu_hu, чем обе исходные версии, и лучшее распознавание на зашумлённых записях; на Common Voice 17.0 немного уступила V2, обучавшейся на его обучающей и валидационной выборках. Результаты зависят от условий записи и настроек декодирования. Для живой речи, телефонных разговоров и сильных акустических искажений качество может быть ниже, чем на подготовленных записях. README указывает, что коммерческое использование без согласия не разрешено; для личного использования применяются исходные условия лицензии Whisper.
TransWithAI/whisper-ja-1.5B-ct2 — преобразованная для CTranslate2 версия дообученной модели Whisper large-v3 для распознавания японской речи. Разработчик подготовил веса bfloat16 для использования с faster-whisper; в карточке заявлены конкурентные результаты по CER на проверенных наборах данных, а сведения о тестах приведены в карточке исходной модели. Модель предназначена для транскрибации японских аудиозаписей. README показывает запуск через faster-whisper на CUDA с типом вычислений bfloat16. Для использования нужны совместимые CTranslate2 и faster-whisper; сведения о лицензии в доступных данных отсутствуют.
Репозиторий HotDog1123/whisperkit-coreml содержит модель распознавания речи для WhisperKit — фреймворка для работы на устройствах Apple Silicon. Модель предназначена для преобразования аудио в текст и используется через библиотеку WhisperKit. Файлы представлены в формате Core ML, а метаданные указывают на задачу автоматического распознавания речи и поддержку аудиовхода. Карточка не сообщает размер модели, языки, длину контекста или лицензию, поэтому эти характеристики нельзя уточнить.
zuazo/whisper-large-v2-es — дообученная модель распознавания речи на базе openai/whisper-large-v2, опубликованная пользователем zuazo. Она адаптирована для транскрибации испанской речи на наборе mozilla-foundation/common_voice_13_0. Архитектура — WhisperForConditionalGeneration; модель содержит 905,2 млн параметров и принимает аудио, выдавая текст. В оценке на тестовом наборе указаны WER 4,8949 и loss 0,2544. Модель подходит для преобразования записанной испанской речи в текст. Карточка не описывает дополнительные сценарии или ограничения качества. Лицензия Apache-2.0 разрешает использование, изменение и распространение с указанием авторов.
Модель JackyHoCL/whisper-large-v3-turbo-cantonese-noise-detection — дообученная версия Whisper Large v3 Turbo от JackyHoCL для потокового распознавания речи с подавлением ложных срабатываний на тишине и фоновом шуме. Она преобразует аудио в текст и рассчитана прежде всего на кантонскую речь; базовая модель также предназначена для кантонского и смешанного кантонско-английского аудио. При обнаружении шума модель может выводить маркер «%nz», который следует удалять или заменять в итоговой расшифровке. Модель содержит 905,2 млн параметров, использует архитектуру Whisper и распространяется в формате safetensors. В README приведены результаты CER на тестовых наборах Common Voice и рекомендации по параметрам генерации для потокового сценария. Лицензия — MIT. Для работы с токенизатором README рекомендует Transformers версии 4.46.3 или новее.
JackyHoCL/whisper-large-v3-turbo-cantonese-yue-english — дообученная модель Jacky Ho на базе Whisper Large v3 Turbo от OpenAI для автоматического распознавания речи. Она предназначена прежде всего для транскрибации кантонской речи, в том числе в сочетании с английским; автор приводит примеры потокового распознавания и сообщает об оценках CER на тестовых наборах Common Voice и очищенной смешанной кантонско-английской речи. Модель построена на архитектуре WhisperForConditionalGeneration, содержит около 905,2 млн параметров и доступна в формате safetensors для Transformers. Для кантонского с английским README рекомендует языковой код yue; код zh указан для сценария с кантонским, мандаринским и английским. Карточка описывает обучение на Common Voice 16.1, Common Voice 17.0 и наборе очищенной смешанной кантонско-английской речи. Результаты CER в README различаются между датами и наборами данных, поэтому приведённые оценки не гарантируют качество на других записях. Автор отмечает необходимость улучшить распознавание китайского и работу с фоновой шумовой средой; упоминается отдельная версия с обнаружением шума. Лицензия — MIT.
emads/whisper-large-v3-urdu-v2 — модель распознавания речи, созданная дообучением Whisper large-v3 для пакистанского урду. Принимает аудио и по управляющему токену декодирования выводит текст в одном из трёх вариантов: письмом урду насталик, романизированным урду или смешанной записью урду и английского с английскими фрагментами латиницей. Архитектура — плотная encoder-decoder модель WhisperForConditionalGeneration, около 905,3 млн параметров; репозиторий содержит веса Safetensors. Модель предназначена для транскрибации пакистанской речи, включая переключение между урду и английским, например в звонках, интервью и разговорных записях. В README приведены результаты на тестах FLEURS Urdu, Common Voice Urdu и Roman Urdu; для выбора регистра требуется передавать соответствующий токен в префиксе декодера. Модель наследует мультиязычную основу Whisper, но обучение и заявленные сценарии ориентированы на урду Пакистана и его письменные варианты. Для длинных записей нужна внешняя нарезка на фрагменты до 30 секунд. Распознавание разговорного пакистанского аудио при переключении языков обозначено как известная слабая сторона; романизация следует разговорным вариантам написания. Лицензия модели — Apache-2.0.
Whisper-large-v3-vaani-hindi — модель распознавания речи на базе Whisper, дообученная на примерно 718 часах транскрибированной речи на хинди из нескольких наборов данных. В README базовой моделью названа OpenAI Whisper Large V3, а метаданные указывают openai/whisper-small; поэтому точный исходный чекпойнт неясен. Модель предназначена для преобразования речи на хинди в текст. Её можно запускать через pipeline из библиотеки Transformers. В README приведены результаты оценки на Gramvaani, Fleurs и MUCS; значение WER зависит от набора данных. Модель принимает аудио и выдаёт текст. Поддержка других языков не подтверждена. Лицензия — Apache-2.0.
arbml/whisper-medium-ar — дообученная версия openai/whisper-medium для автоматического распознавания речи. Модель на архитектуре Whisper содержит 455,8 млн параметров и принимает аудио, выдавая текстовую расшифровку. В карточке указано дообучение на датасете MGB-2; на оценочной выборке приведены loss 0,8488 и WER 16,5882. Модель предназначена для преобразования речи в текст. В названии указано «ar», а датасет MGB-2 связан с арабской речью; метаданные не содержат кодов языков. Репозиторий использует формат PyTorch и распространяется по лицензии Apache-2.0.
Это дообученная на наборе данных None модель OpenAI Whisper Medium для автоматического распознавания речи. Она принимает аудио и генерирует текстовую расшифровку; карточка сообщает результаты оценки: loss 0,5053 и Global WER 23,6218. Метаданные описывают базовую Whisper Medium как мультиязычную модель для распознавания и перевода речи, однако язык или языки, на которых специализируется это дообучение, не подтверждены. Модель использует архитектуру WhisperForConditionalGeneration и формат safetensors. Лицензия — Apache 2.0.
zeynepgulhan/whisper-medium-mediaspeech-cv-tr — дообученная модель распознавания речи на базе openai/whisper-medium, разработанная автором репозитория. Она предназначена для преобразования аудио в текст; в карточке приведены результаты оценки: loss 0,1813 и WER 9,9776. Модель содержит 455,8 млн параметров, построена на архитектуре Whisper и распространяется в формате PyTorch. Базовая Whisper-medium мультиязычная, однако язык и особенности обучающих данных этой дообученной версии не установлены: README ссылается на набор данных «None» и не раскрывает область применения. Лицензия — Apache-2.0. Оценка WER приведена без описания набора тестов и условий измерения, поэтому её нельзя напрямую переносить на другие данные.
Модель dianavdavidson/whisper-medium_mucs_62901_ratio_alldata_lr_1e-4_lgid_hi_hinglish_mixed_scripts_FT — дообученная версия Whisper-medium от OpenAI с архитектурой WhisperForConditionalGeneration и 455,8 млн параметров. Она принимает аудио и предназначена для автоматического распознавания речи с выводом текстовой расшифровки. Название модели указывает на настройку для хинглишской речи и смешанного письма, однако README не раскрывает обучающие данные и не описывает конкретные сценарии применения. На оценочном наборе указаны Loss 0,4527 и Global WER 29,0941; результаты относятся только к этому набору. Модель распространяется под лицензией Apache-2.0.
Модель dianavdavidson/whisper-medium_mucs_63022_ratio_25_45_lr_1e-4_lgid_hi_hinglish_mixed_scripts_FT — дообученная версия OpenAI Whisper medium для автоматического распознавания речи и преобразования аудио в текст. Архитектура WhisperForConditionalGeneration содержит 455,8 млн параметров; модель использует библиотеку Transformers и опубликована в формате safetensors. Название указывает на настройку для хинди и хинглиша со смешанными системами письма, однако README не раскрывает датасет или подробные языковые настройки. На оценочной выборке указаны loss 0,4777 и Global WER 28,2969. Модель распространяется по лицензии Apache-2.0.
Это дообученная модель OpenAI Whisper-small, подготовленная автором yuriyvnv для автоматического распознавания нидерландской речи. Она принимает аудио и генерирует текстовую транскрипцию; модель реализована на базе WhisperForConditionalGeneration и содержит 153,1 млн параметров. Модель дообучена на 34 952 реальных аудиозаписях Common Voice 17.0 на нидерландском языке и 34 898 синтетических примерах без фильтрации качества. На тестовой части Common Voice указана доля ошибок WER 10,91%, а на валидации — 8,64%. Использование всех синтетических данных увеличивает объём обучения, но низкокачественные примеры могут вносить шум; модель также может хуже работать с региональными вариантами языка и технической речью. Лицензия — Apache-2.0.
crossdelenna/whisper-small.en — дообученная версия Whisper Small English, опубликованная на Hugging Face. Модель с архитектурой WhisperForConditionalGeneration содержит 153,1 млн параметров и предназначена для автоматического распознавания речи и преобразования аудио в текст. Репозиторий содержит веса PyTorch и SafeTensors; лицензия — Apache 2.0. Модель рассчитана на англоязычное распознавание речи. В карточке приведена оценка WER 0,7672 на наборе оценки, но набор данных и условия тестирования не описаны; поэтому результат не позволяет надёжно судить о качестве в конкретном сценарии.
Shirali/whisper-small-ISSAI_KSC_335RS_v2 — аудиомодель семейства Whisper с архитектурой WhisperForConditionalGeneration и 153,1 млн параметров. Репозиторий содержит веса PyTorch; модель предназначена для автоматического распознавания речи. В README указано, что модель обучена с нуля, но набор данных обозначен как None, а сведения о назначении, обучающих данных и оценке не приведены. Языки распознавания и качество для конкретных условий записи установить по доступным данным нельзя. Лицензия не указана.
seastar105/whisper-small-komixv2 — дообученная модель распознавания речи на базе OpenAI Whisper Small. Разработчик сообщает, что обучал её на корейских аудиоданных: записях адресов, совещаний, телефонных разговоров низкого качества и диалогах из вещательного контента. В метаданных указаны архитектура WhisperForConditionalGeneration, 153,1 млн параметров и библиотека Transformers; веса доступны в форматах Flax и Safetensors. Модель предназначена для транскрибирования корейской речи, в том числе телефонных звонков, совещаний и разговорного аудио. В README приведены результаты тестирования на нескольких корейских наборах данных; автор утверждает, что среднее качество на его тестовом наборе выше, чем у Whisper Large v3. Лицензия и точные условия использования в предоставленных сведениях не указаны.
Xenova/whisper-tiny.en — версия модели openai/whisper-tiny.en, подготовленная командой Xenova и снабжённая весами в формате ONNX для совместимости с библиотекой Transformers.js. Модель предназначена для автоматического распознавания речи на английском языке и может использоваться в веб-приложениях и JavaScript-проектах для транскрибации аудио. Поддерживаются обычная транскрибация, вывод временных интервалов для фрагментов текста и временные метки на уровне отдельных слов. Модель относится к семейству Whisper, однако в README не указаны её точная архитектура, число параметров, размер контекста, требования к ресурсам и характеристики качества. Английская специализация ограничивает применение сценариями с английской речью; другие языки README не заявляет. Модель удобна для запуска через Transformers.js и ONNX, включая обработку аудио по URL. Лицензия — Apache-2.0. README не содержит сведений о конкретных ограничениях использования, устойчивости к шуму или сравнительных показателях качества.
wrice/whisper-tiny-grpo-72a3573-fixed-en-t0.7-lr3e-6 — компактная модель распознавания речи на базе Whisper Tiny, дообученная разработчиком wrice методом GRPO (Group Relative Policy Optimization) с комбинированной наградой на основе ошибок слов и символов. Модель предназначена для преобразования аудиозаписей в текст; при обучении использовались англоязычные данные Common Voice 17.0, а язык аудио задавался по локали записи. На отложенной выборке Common Voice для английского указана WER 0,228. Это экспериментальная проверка концепции: результаты измерены на ограниченной валидационной выборке после нормализации текста и могут отличаться на других аудио, акцентах и в иных предметных областях. Репозиторий использует Transformers и формат safetensors; лицензия — MIT.