I.7Речь, диалоги и встречи
В разделе собраны самостоятельные задачи, где AI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 923 моделиКарточка модели Syninlab/Synin-1.0-Omni-Inquisitive на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.
Ultravox v0.4.1 — мультимодальная речевая языковая модель компании Fixie.ai на базе Llama 3.3 70B Instruct и Whisper Large V3 Turbo. Она принимает речь и текст, объединяя текстовый запрос с аудиовходом, и генерирует текстовые ответы. Модель предназначена для голосовых агентов, анализа устной речи и перевода речи между языками. Для этой версии не применялось preference tuning; README приводит скорость около 150 мс до первого токена и 50–100 токенов в секунду на GPU A100 40GB. В карточке указана лицензия MIT. В метаданных заявлена поддержка арабского, немецкого, английского, испанского, французского, хинди, итальянского, японского, нидерландского, португальского, русского, шведского, турецкого, украинского и китайского языков. Модель выдаёт текст, а генерация аудио в этой версии не поддерживается.
Ultravox v0.7 GLM 4.6 — мультимодальная речевая языковая модель от Ultravox.ai. Она объединяет языковую модель GLM 4.6 с речевым энкодером whisper-large-v3-turbo: принимает речь и текстовый контекст, после чего формирует текстовый ответ. Модель предназначена для распознавания речи, понимания аудио, ответов на вопросы по аудиозаписям и перевода речи. В README сообщается о тестировании на BigBenchAudio, VoiceBench, CoVoST 2 и LibriSpeech; в частности, приведены результаты для аудио-рассуждений, речевого перевода и распознавания. Метаданные указывают архитектуру Ultravox и формат safetensors. Версия v0.7 построена на GLM 4.6; README также описывает обучение на смеси наборов для ASR, речевого перевода и аудио с шумом. Модель принимает аудио вместе с текстом, например текстовую системную инструкцию и голосовое сообщение, и выдаёт текст. В карточке заявлена поддержка многозадачных сценариев работы с речью, однако точные ограничения по языкам и размеру контекста не приведены. Лицензия — MIT. README указывает, что использование собственных системных инструкций учитывалось при оценке; результаты тестов сами по себе не гарантируют качество на других данных.
Карточка модели ponkyky/ultravox-v0_7-glm-4_6 на Hugging Face совпадает с карточкой fixie-ai/ultravox-v0_7-glm-4_6, поэтому описание составлено по ней. Ultravox v0.7 GLM 4.6 — мультимодальная речевая языковая модель от Ultravox.ai. Она объединяет языковую модель GLM 4.6 с речевым энкодером whisper-large-v3-turbo: принимает речь и текстовый контекст, после чего формирует текстовый ответ. Модель предназначена для распознавания речи, понимания аудио, ответов на вопросы по аудиозаписям и перевода речи. В README сообщается о тестировании на BigBenchAudio, VoiceBench, CoVoST 2 и LibriSpeech; в частности, приведены результаты для аудио-рассуждений, речевого перевода и распознавания. Метаданные указывают архитектуру Ultravox и формат safetensors. Версия v0.7 построена на GLM 4.6; README также описывает обучение на смеси наборов для ASR, речевого перевода и аудио с шумом. Модель принимает аудио вместе с текстом, например текстовую системную инструкцию и голосовое сообщение, и выдаёт текст. В карточке заявлена поддержка многозадачных сценариев работы с речью, однако точные ограничения по языкам и размеру контекста не приведены. Лицензия — MIT. README указывает, что использование собственных системных инструкций учитывалось при оценке; результаты тестов сами по себе не гарантируют качество на других данных.
Карточка модели Seksiyog/VibeVoice-ASR-Streaming-7B на Hugging Face совпадает с карточкой komixenon/VibeVoice-ASR-Streaming-7B, поэтому описание составлено по ней. VibeVoice-ASR-Streaming-7B — потоковая модель распознавания речи семейства VibeVoice, представленная в карточке как модель для транскрибации с указанием говорящего. Она обрабатывает поступающую речь и связывает распознанный текст с тем, кто его произнёс; пользовательские горячие слова помогают распознавать имена и специальные термины. Модель поддерживает китайский, английский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский языки. В метаданных указаны архитектура VibeVoice, класс VibeVoiceForASRStreamingTraining, библиотека Transformers и формат safetensors. Размер 7B следует из названия модели. Лицензия — MIT. Карточка направляет к репозиторию microsoft/VibeVoice за кодом и инструкциями по использованию. Подробные сведения о контекстном окне, качестве распознавания и ограничениях в предоставленных материалах отсутствуют.
Voxtral-Mini-3B-2507-gguf — это квантизированная GGUF-версия мультимодальной аудиотекстовой модели Voxtral Mini 1.0 (3B), разработанной Mistral и подготовленной для transcribe.cpp сообществом handy-computer. Модель предназначена для автономного распознавания речи, перевода речи и анализа аудио без подключения к облачным сервисам. Она поддерживает английский, французский, немецкий, испанский, итальянский, португальский, нидерландский и хинди, а также автоматическое определение языка, ответы на вопросы по аудио и создание структурированных резюме. Архитектура сочетает двунаправленный аудиоэнкодер Whisper-large-v3, проектор с группировкой по четыре аудиокадра и причинную языковую модель Ministral-3B с 30 слоями, GQA 32/8, NEOX RoPE и SwiGLU. Контекст составляет 32 тысячи токенов: модель рассчитана на обработку аудиозаписей длительностью до 30 минут при транскрибации и до 40 минут при понимании аудио. Доступны варианты BF16, F16 и квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 2,98 до 9,38 ГБ. На LibriSpeech test-clean заявлена точность WER от 1,87% до 1,94% в зависимости от варианта. К сильным сторонам относятся офлайн-работа, мультиязычность, поддержка перевода и единая модель для распознавания и понимания аудио. Ограничения реализации transcribe.cpp: потоковая обработка и временные метки не поддерживаются, вход должен быть монофоническим WAV с частотой 16 кГц, а декодирование выполняется жадным методом. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
Карточка модели Jinstudio/Voxtral-Mini-4B-Realtime-2602 на Hugging Face совпадает с карточкой mistralai/Voxtral-Mini-4B-Realtime-2602, поэтому описание составлено по ней. Voxtral Mini 4B Realtime 2602 — мультиязычная модель распознавания речи в реальном времени от Mistral AI. Это плотная модель семейства Voxtral Realtime с архитектурой VoxtralRealtimeForConditionalGeneration, дообученная на базе mistralai/Ministral-3-3B-Base-2512. Веса представлены в safetensors; для запуска поддерживается vLLM, а Transformers поддерживает модель начиная с версии 5.2.0. Модель предназначена для потоковой транскрипции аудио с небольшой задержкой. README рекомендует задержку 480 мс; указана поддержка английского, французского, испанского, немецкого, русского, китайского, японского, итальянского, португальского, нидерландского, арабского, хинди и корейского языков. По описанию, при настройках vLLM по умолчанию контекст позволяет обрабатывать аудио продолжительностью примерно до трёх часов, хотя практический предел зависит от выделенной памяти и параметров запуска. Модель показывает конкурентные результаты среди систем транскрипции реального времени, но в приведённом сравнении Fleurs уступает офлайн-модели Voxtral Mini Transcribe 2.0. Для работы с потоковым аудио рекомендуются веб-сокеты; запуск через vLLM требует GPU с памятью не менее 16 ГБ. Архитектура пока имеет ограниченную поддержку в программных инструментах: README отмечает поддержку vLLM и Transformers, а запуск через ExecuTorch обозначен как непроверенный. Лицензия — Apache-2.0.
Voxtral Mini 4B Realtime 2602 — мультиязычная модель распознавания речи в реальном времени от Mistral AI. Это плотная модель семейства Voxtral Realtime с архитектурой VoxtralRealtimeForConditionalGeneration, дообученная на базе mistralai/Ministral-3-3B-Base-2512. Веса представлены в safetensors; для запуска поддерживается vLLM, а Transformers поддерживает модель начиная с версии 5.2.0. Модель предназначена для потоковой транскрипции аудио с небольшой задержкой. README рекомендует задержку 480 мс; указана поддержка английского, французского, испанского, немецкого, русского, китайского, японского, итальянского, португальского, нидерландского, арабского, хинди и корейского языков. По описанию, при настройках vLLM по умолчанию контекст позволяет обрабатывать аудио продолжительностью примерно до трёх часов, хотя практический предел зависит от выделенной памяти и параметров запуска. Модель показывает конкурентные результаты среди систем транскрипции реального времени, но в приведённом сравнении Fleurs уступает офлайн-модели Voxtral Mini Transcribe 2.0. Для работы с потоковым аудио рекомендуются веб-сокеты; запуск через vLLM требует GPU с памятью не менее 16 ГБ. Архитектура пока имеет ограниченную поддержку в программных инструментах: README отмечает поддержку vLLM и Transformers, а запуск через ExecuTorch обозначен как непроверенный. Лицензия — Apache-2.0.
Voxtral Mini 4B Realtime 2602 — мультиязычная модель распознавания речи в реальном времени от Mistral AI, опубликованная на Hugging Face организацией RedHatAI. Она преобразует потоковое аудио в текст и рассчитана на транскрибацию с низкой задержкой; в README рекомендуют задержку 480 мс. Модель построена на плотной архитектуре VoxtralRealtimeForConditionalGeneration и дообучена на базе mistralai/Ministral-3-3B-Base-2512. Весовая версия в формате safetensors поддерживается vLLM; README также указывает поддержку в Transformers начиная с версии 5.2.0. Модель предназначена для потоковой расшифровки аудио, включая длинные записи: для vLLM по умолчанию указан максимальный контекст 131072 токена, что соответствует примерно трём часам. В тесте Fleurs средняя частота ошибок слов при задержке 480 мс составила 8,72%; показатели различаются по языкам. Для запуска в BF16 требуется одна GPU с памятью от 16 ГБ. Модель поддерживает английский, французский, испанский, немецкий, русский, китайский, японский, итальянский, португальский, нидерландский, арабский, хинди и корейский языки. Лицензия — Apache-2.0. README отмечает, что из-за новой архитектуры официальная поддержка на момент карточки доступна в vLLM, а интеграции в другие среды перечислены как непроверенные.
Это версия Voxtral-Mini-4B-Realtime-2602, преобразованная schroneko в формат MLX с 4-битным представлением для запуска через voxmlx. Базовая модель разработана Mistral AI и предназначена для потокового распознавания речи с низкой задержкой. Модель принимает аудио и выдаёт текстовую транскрипцию; в карточке указана поддержка английского, французского, испанского, немецкого, русского, китайского, японского, итальянского, португальского, нидерландского, арабского, хинди и корейского языков. Репозиторий распространяется по лицензии Apache-2.0. MLX-версия рассчитана на запуск в экосистеме MLX; README предлагает использовать библиотеку voxmlx.
Voxtral-Mini-4B-Realtime-GGUF — набор GGUF-квантизаций потоковой модели распознавания речи Voxtral-Mini-4B-Realtime-2602, разработанной Mistral AI. Репозиторий cstr содержит только конвертацию и квантизацию исходных весов для работы через ggml-совместимые инструменты, включая CrispASR; дообучение и изменение архитектуры не выполнялись. Модель предназначена для потокового преобразования речи в текст в реальном времени, в том числе для транскрибации WAV-аудио. Она поддерживает 13 языков: английский, французский, испанский, немецкий, русский, китайский, японский, итальянский, португальский, нидерландский, арабский, хинди и корейский. Архитектура включает 32-слойный каузальный аудиоэнкодер, 26-слойный декодер Mistral с GQA, проектор и токенизатор Mistral Tekken с 150 тысячами токенов. Потоковая обработка использует каузальный энкодер, а задержка транскрибации настраивается; значение по умолчанию составляет 480 мс. Доступны варианты F16 размером 8,3 ГБ, Q8_0 размером 4,4 ГБ и Q4_K размером 2,4 ГБ. Q4_K указан как рекомендуемый: по данным README, он в 3,5 раза меньше F16 и в 2,7 раза быстрее при идентичном качестве транскрибации в приведённом тесте на CPU. Поддержка словесных временных меток требует отдельной GGUF-модели CTC-выравнивателя. Ограничения включают необходимость 16 кГц моно WAV и заметно более низкую скорость на CPU, чем длительность входной записи, согласно тесту. Модель распространяется по лицензии Apache 2.0; права на исходную модель и её возможности определяются условиями upstream-репозитория Mistral AI.
RASMUS разработал wav2vec2-xlsr-1b-ru — модель распознавания речи на архитектуре Wav2Vec2ForCTC, дообученную на базе facebook/wav2vec2-xls-r-1b на датасете Common Voice. Она преобразует русскую речь в текст и подходит для автоматической расшифровки аудиозаписей. На оценочной выборке указаны Loss 0,1352 и WER 0,0971. Модель содержит 1,3 млрд параметров и распространяется в формате PyTorch. Лицензия в доступных данных не указана.
Whisper Base.en — преобразованная в формат CTranslate2 версия англоязычной модели OpenAI whisper-base.en. Она распознаёт английскую речь и преобразует аудио в текст; для запуска карточка рекомендует библиотеку whisper-s2t-reborn. Веса представлены с точностью float32. Модель предназначена для транскрибации английской речи, например записей и разговоров. Вариант base.en относится к компактным моделям семейства Whisper; параметры контекста и размер модели в предоставленных данных не приведены. Репозиторий распространяется по лицензии Apache-2.0.
handy-computer/whisper-base-gguf — это конверсия мультиязычной модели распознавания речи OpenAI Whisper base в формат GGUF для использования с transcribe.cpp. Модель разработана на основе openai/whisper-base и предназначена для автоматического преобразования аудио в текст, определения языка и перевода речи с любого поддерживаемого языка на английский. Для длинных записей используется декодирование фрагментами с окнами по 30 секунд; потоковая обработка не поддерживается, доступны сегментные временные метки. Модель построена на архитектуре encoder-decoder Transformer и поддерживает широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и многие другие. Доступны варианты F32, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 59 до 292 МБ. На тестовой выборке LibriSpeech test-clean показатель WER составляет 5,10–5,36% в зависимости от квантования, что указывает на высокое качество распознавания английской речи; качество заметно различается между языками, поэтому для менее распространённых языков требуется дополнительная проверка. Модель подходит для локальной транскрибации, субтитров, голосового ввода, анализа аудиозаписей и перевода речи. Квантованные варианты снижают требования к памяти при небольшом ухудшении качества, но README не содержит данных о точных требованиях к оборудованию и полной производительности. Распространяется по лицензии Apache-2.0.
Карточка модели mitchelldehaven/whisper-large-v2-ru на Hugging Face совпадает с карточкой mitchelldehaven/whisper-medium-ru, поэтому описание составлено по ней. mitchelldehaven/whisper-medium-ru — модель распознавания речи на базе Whisper, дообученная на аудиоданных из набора Open STT Russian Dataset. Она предназначена для преобразования русской речи в текст и может применяться для транскрибации записей и аудио с речью. Модель имеет архитектуру Whisper и содержит около 455,8 млн параметров; репозиторий распространяет веса в формате PyTorch. При нормализации обучающих данных пунктуацию удаляли, тогда как исходная токенизация Whisper заменяет её пробелом. По данным карточки, это расхождение немного ухудшает результаты на Common Voice. Лицензия в предоставленных сведениях не указана.
mlx-community подготовила конверсию Whisper large-v3 от OpenAI в формат MLX с 8-битным представлением весов. Модель предназначена для распознавания речи и преобразования аудио в текст; её можно использовать для транскрибации аудиозаписей и речи в приложениях на базе MLX. Whisper large-v3 — мультиязычная модель. Репозиторий указывает библиотеку mlx-audio-plus и формат safetensors. Модель распространяется по лицензии Apache-2.0. Карточка описывает преобразование исходной модели в MLX, поэтому заявленное здесь назначение — распознавание речи.
RedHatAI/whisper-large-v3-quantized.w4a16 — квантизированная версия модели openai/whisper-large-v3, разработанная Neural Magic. Это аудио-текстовая модель архитектуры Whisper, которая принимает аудиосигнал и генерирует текст; в метаданных указана поддержка английского языка. Модель предназначена для автоматического распознавания речи и преобразования аудиозаписей в текст. Основная оптимизация — квантизация весов до формата INT4 с конфигурацией w4a16. Она уменьшает требования к памяти и может повысить эффективность инференса по сравнению с исходной моделью, сохраняя архитектуру базовой Whisper large v3. Модель подготовлена для запуска через vLLM версии 0.5.2 и выше; README также указывает возможность использования OpenAI-compatible serving. В примере развертывания задан параметр max_model_len 448, но это значение относится к конфигурации запуска. К ограничениям относятся возможное снижение качества распознавания из-за квантизации и отсутствие в README количественных результатов оценки точности или производительности. Лицензия модели — Apache 2.0.
RedHatAI/whisper-large-v3-quantized.w8a8 — квантизированная версия модели openai/whisper-large-v3, разработанная Neural Magic. Это аудио-текстовая модель распознавания речи, преобразующая аудиовход в текст. Модель предназначена для автоматической транскрипции речи и эффективного инференса, в том числе при развертывании через vLLM и его OpenAI-совместимый сервер. В README явно указана поддержка английского языка. Архитектура соответствует Whisper large-v3; точное число параметров и максимальная длина контекста в README не указаны. Веса и активации квантизированы в INT8 по схеме W8A8, что ориентировано на снижение вычислительных и ресурсных затрат при инференсе. Модель готова к использованию с vLLM версии 0.5.2 и выше и поддерживает обработку аудиоданных в мультимодальном запросе. README не содержит количественной оценки влияния квантизации на точность и подробностей об ограничениях качества. Модель распространяется по лицензии Apache 2.0.
spokedotso/whisper-large-v3-turbo-4bit — 4-битная квантизованная версия Whisper large-v3-turbo от OpenAI, опубликованная Spoke для распознавания речи на устройствах Apple Silicon. Модель использует архитектуру Whisper; исходный чекпойнт содержит около 809 млн логических параметров, а веса квантованы до 4 бит с размером группы 64. В каталоге репозиторий указан как производный от openai/whisper-large-v3-turbo; README сообщает, что веса совпадают по контрольным суммам с upstream-конверсией mlx-community. Модель предназначена для преобразования аудио в текст непосредственно на устройстве с помощью mlx-whisper. Базовая Whisper large-v3-turbo — ускоренная мультиязычная модель для распознавания речи и перевода аудио в текст. Репозиторий использует формат safetensors и лицензию Apache-2.0; сведения о конкретных языках и максимальной длине аудио в карточке отсутствуют.
OllmOne/whisper-medium-GGUF — это GGUF-квантизированная версия мультиязычной модели Whisper medium, опубликованная пользователем OllmOne и основанная на openai/whisper-medium, разработанной OpenAI. Она предназначена прежде всего для автоматического распознавания речи, а также поддерживает перевод речи на английский, определение языка и связанные задачи обработки аудио. Модель может использоваться локально через Transformers и совместимые средства инференса GGUF. Архитектура — encoder-decoder Transformer с 24 слоями энкодера и 24 слоями декодера, 16 attention heads в каждом, размером скрытого представления 1024 и 80 mel-каналами. Исходная модель содержит около 769 млн параметров; в репозитории указано около 0,8 млрд параметров. Конфигурация задаёт до 1500 позиций входа и 448 позиций целевой последовательности. Репозиторий содержит файл model-q4k.gguf размером около 444 МБ, что уменьшает требования к хранению и локальному запуску по сравнению с полной точностью. Сильные стороны модели — мультиязычность, поддержка распознавания и перевода речи и возможность локального использования в компактном квантизированном формате. Ограничения включают возможные ошибки и галлюцинации, зависимость качества от языка, акустики и предметной области, а также склонность sequence-to-sequence архитектуры к повторяющимся текстам; перед развёртыванием рекомендуется проводить оценку на конкретных данных. Для репозитория OllmOne указана лицензия Apache-2.0.
Это дообученная модель OpenAI Whisper Medium с архитектурой WhisperForConditionalGeneration и 455,8 млн параметров. Она предназначена для автоматического распознавания речи и преобразования аудио в текст. В README приведены результаты на наборе оценки: loss 0,5381 и глобальный WER 13,3026; обучающий набор данных не описан. Модель принимает аудио и выдаёт текст; семейство Whisper также поддерживает многоязычную транскрибацию и перевод речи, однако язык и режимы, проверенные именно для этой версии, в карточке не уточнены. Модель распространяется в формате safetensors по лицензии Apache-2.0.
Whisper-Podlodka-Turbo — дообученная bond005 модель на базе Whisper Large v3 Turbo от OpenAI, предназначенная прежде всего для распознавания русской речи. Модель с архитектурой Whisper и примерно 905,2 млн параметров принимает аудио и выдаёт текст; она также поддерживает распознавание английской речи, перевод русской и английской речи, определение языка и выявление сегментов без речи. Настройка модели направлена на повышение точности русской транскрипции, восстановление пунктуации и заглавных букв, устойчивость к фоновому шуму и сокращение галлюцинаций на неречевых сигналах. Поддерживаются транскрипция длинных записей и выдача временных меток для фрагментов речи. Модель распространяется в формате safetensors и работает с Transformers. По README, статистически значимое преимущество подтверждено только для распознавания русской речи; качество улучшений для английского и перевода не подтверждено столь же убедительно. Перевод с английского на русский может содержать заметные ошибки, а качество на речи с переключением между русским и английским отдельно не оценивалось. Модель лицензирована по Apache-2.0.
mlx-community/whisper-small-fp16 — конверсия мультиязычной модели распознавания речи OpenAI Whisper Small в формат MLX, выполненная сообществом mlx-community с помощью mlx-audio-plus версии 0.1.4. Модель принимает аудио и преобразует речь в текст; семейство Whisper также поддерживает перевод речи на английский язык. Модель предназначена для автоматической транскрибации и распознавания речи в приложениях на базе MLX. Репозиторий распространяется под лицензией Apache-2.0. Метаданные указывают формат safetensors и библиотеку mlx-audio-plus.
oxide-lab/whisper-small-GGUF — набор квантизированных версий модели Whisper Small, разработанной OpenAI и опубликованной oxide-lab. Модель предназначена для автоматического распознавания речи, включая транскрибацию аудиозаписей, и может использоваться с Candle — ML-фреймворком на Rust — или whisper.cpp. Заявлена поддержка multilingual-сценариев, включая английский и русский языки. Модели распространяются в формате GGUF и основаны на openai/whisper-small. Доступны десять уровней квантизации — от q2_k до q8_0 — с различным компромиссом между размером, скоростью и качеством. Вариант q4_k рекомендован как сбалансированный для практического использования: он примерно на 65% меньше исходной модели, обеспечивает минимальное ухудшение качества и более быстрое выполнение по сравнению с менее квантизированными вариантами. Версии в корневом каталоге совместимы с Candle, а версии в каталоге whisper.cpp — с whisper.cpp; эти варианты отличаются именами тензоров и предназначены для соответствующих инструментов. Сильными сторонами модели являются поддержка нескольких форматов квантизации, возможность локального запуска и совместимость с Rust- и C++-инструментами. Ограничения включают зависимость от выбранного уровня квантизации, возможную потерю качества в компактных вариантах и необходимость использовать соответствующую реализацию и файлы конфигурации. Модель распространяется по лицензии MIT, такой же, как исходная модель Whisper.
Whisper Small — модель OpenAI для автоматического распознавания речи, преобразованная в формат OpenVINO IR. Веса сжаты до INT8 с помощью NNCF; модель содержит около 153,1 млн параметров и предназначена для запуска через OpenVINO, Optimum Intel, OpenVINO GenAI или OpenVINO Model Server. Модель решает задачу преобразования англоязычной аудиозаписи в текст и подходит для транскрибации записей, голосовых сообщений и аудиопотоков. Поддерживается интеграция с CPU и совместимыми ускорителями OpenVINO, а также использование через OpenAI-совместимый API при развертывании в OpenVINO Model Server. Ключевые характеристики включают архитектуру Whisper Small, представление OpenVINO IR и асимметричное сжатие весов INT8 с размером группы 128. К преимуществам относятся уменьшенный размер весов и возможность эффективного инференса в экосистеме OpenVINO. Модель ориентирована на английский язык; ограничения исходной модели описаны в оригинальной карточке Whisper Small. Распространяется по лицензии Apache-2.0.
RedHatAI/whisper-small-quantized.w8a8 — квантизированная версия модели openai/whisper-small, разработанная Neural Magic. Это аудио-текстовая модель автоматического распознавания речи: она принимает аудиосигнал и генерирует текстовую расшифровку. Модель предназначена для транскрибации аудиозаписей и развёртывания в приложениях, где важны эффективное выполнение инференса и совместимость с vLLM. Модель использует архитектуру Whisper small и поддерживает обработку аудио с выдачей текста. Указан язык en; другие языки в предоставленных данных не заявлены. Веса и активации квантизированы в INT8 по схеме W8A8, что может снизить требования к памяти и повысить эффективность инференса по сравнению с полноточной версией, но потенциально сопровождается потерей точности. Модель подготовлена для работы с vLLM версии 0.5.2 и новее, включая OpenAI-compatible serving. В README не приведены численные результаты оценки качества, ограничения по длине аудио или подробные характеристики исходной архитектуры. Модель распространяется по лицензии Apache-2.0. Для её использования требуется инфраструктура, совместимая с Transformers и vLLM; конкретные параметры производительности зависят от оборудования и настроек развёртывания.
Whisper Tiny — компактная предварительно обученная модель распознавания речи семейства Whisper, разработанная OpenAI. Это трансформерная архитектура «энкодер—декодер» с 29,4 млн параметров, обученная на больших массивах размеченной речи с масштабным слабым контролем. Модель принимает аудио и генерирует его текстовую расшифровку; семейство Whisper также поддерживает перевод речи, но метаданные этой модели указывают только задачу распознавания речи. Модель подходит для транскрибации речи на множестве языков, включая русский, а также для распознавания аудио с акцентами, фоновым шумом и технической лексикой. Базовая длительность входного аудиофрагмента — до 30 секунд; длинные записи можно обрабатывать с разбиением на фрагменты. Модель может выдумывать слова, которых нет в аудио, повторять текст, а качество распознавания неодинаково для разных языков, акцентов и диалектов. Распространяется по лицензии Apache-2.0.
Карточка модели RedHatAI/whisper-tiny на Hugging Face совпадает с карточкой openai/whisper-tiny, поэтому описание составлено по ней. Whisper Tiny — компактная предварительно обученная модель распознавания речи семейства Whisper, разработанная OpenAI. Это трансформерная архитектура «энкодер—декодер» с 29,4 млн параметров, обученная на больших массивах размеченной речи с масштабным слабым контролем. Модель принимает аудио и генерирует его текстовую расшифровку; семейство Whisper также поддерживает перевод речи, но метаданные этой модели указывают только задачу распознавания речи. Модель подходит для транскрибации речи на множестве языков, включая русский, а также для распознавания аудио с акцентами, фоновым шумом и технической лексикой. Базовая длительность входного аудиофрагмента — до 30 секунд; длинные записи можно обрабатывать с разбиением на фрагменты. Модель может выдумывать слова, которых нет в аудио, повторять текст, а качество распознавания неодинаково для разных языков, акцентов и диалектов. Распространяется по лицензии Apache-2.0.
Карточка модели unsloth/whisper-tiny на Hugging Face совпадает с карточкой openai/whisper-tiny, поэтому описание составлено по ней. Whisper Tiny — компактная предварительно обученная модель распознавания речи семейства Whisper, разработанная OpenAI. Это трансформерная архитектура «энкодер—декодер» с 29,4 млн параметров, обученная на больших массивах размеченной речи с масштабным слабым контролем. Модель принимает аудио и генерирует его текстовую расшифровку; семейство Whisper также поддерживает перевод речи, но метаданные этой модели указывают только задачу распознавания речи. Модель подходит для транскрибации речи на множестве языков, включая русский, а также для распознавания аудио с акцентами, фоновым шумом и технической лексикой. Базовая длительность входного аудиофрагмента — до 30 секунд; длинные записи можно обрабатывать с разбиением на фрагменты. Модель может выдумывать слова, которых нет в аудио, повторять текст, а качество распознавания неодинаково для разных языков, акцентов и диалектов. Распространяется по лицензии Apache-2.0.
Audio Flamingo Next-Instruct — инструкцияно настроенная аудиоязыковая модель NVIDIA для вопросов и ответов, диалога и понимания речи, окружающих звуков и музыки. Модель принимает аудио и текстовые инструкции, а ответы формирует текстом; поддерживает распознавание речи, перевод речи, понимание нескольких говорящих, описание аудио и временную привязку к событиям. Основной язык в карточке — английский, заявлена также многоязычная поддержка распознавания речи. Архитектура сочетает аудиоэнкодер на основе AF-Whisper, двухслойный MLP-адаптер и текстовую основу семейства Qwen2.5; для временной привязки используются Rotary Time Embeddings. Аудио обрабатывается окнами по 30 секунд, а процессор настроен на записи длительностью до 30 минут. Модель рассчитана на явные инструкции с указанием задачи и желаемого формата ответа. Ограничения включают неравномерное покрытие языков и акустических условий, слабое представление редких звуков и специализированных областей, а также трудности рассуждения по длинным записям при разреженных свидетельствах. Лицензия обозначена как other; README разрешает только некоммерческое исследовательское использование.