I.9Аудио и музыка
В разделе собраны самостоятельные задачи, где AI помогает анализировать, очищать, преобразовывать и создавать звук и музыку. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 835 моделейКарточка модели diprooo/whisper-large-v3-turbo на Hugging Face совпадает с карточкой openai/whisper-large-v3-turbo, поэтому описание составлено по ней. Whisper large-v3-turbo — мультиязычная модель распознавания речи OpenAI на архитектуре Transformer encoder-decoder. Это дообученная и ускоренная версия Whisper large-v3: число слоёв декодера сокращено с 32 до 4, что ускоряет вывод с небольшим снижением качества. Модель содержит 905,2 млн параметров и работает с аудио; она поддерживается библиотекой Transformers. Модель предназначена для преобразования речи в текст на языке оригинала и перевода речи между языками, включая перевод на английский. Она обучалась на более чем 5 млн часов размеченных данных и демонстрирует обобщение на новые наборы данных и предметные области. Для длинных записей требуется обработка последовательными окнами или разбиение аудио на сегменты; воспринимаемое окно составляет 30 секунд. Модель может ошибаться, добавлять слова, которых нет в аудио, и повторять фрагменты. Точность различается между языками, акцентами и диалектами и может быть ниже для языков с ограниченными обучающими данными. Лицензия — MIT.
mlx-community/whisper-large-v3-turbo-8bit — конверсия мультиязычной модели распознавания речи OpenAI Whisper Large V3 Turbo в формат MLX; преобразование выполнено с помощью mlx-audio-plus версии 0.1.4. Модель предназначена для преобразования аудиозаписей в текст и запуска на совместимых с MLX устройствах. Модель относится к семейству Whisper и использует плотную архитектуру. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. В метаданных указана задача автоматического распознавания речи; исходная модель также поддерживает перевод аудио в текст. Качество распознавания зависит от языка, записи и фонового шума.
adriszmar/whisper-large-v3-turbo-es — дообученная модель распознавания речи, созданная на основе openai/whisper-large-v3-turbo и адаптированная к испанскому языку на испанской части Common Voice 17.0. Она использует архитектуру WhisperForConditionalGeneration и содержит 905,2 млн параметров; работает с аудио и выдаёт текстовую транскрипцию. Модель предназначена для распознавания испанской речи. На тестовой выборке Common Voice 17.0 её показатель WER составил 5,34% против 6,91% у базовой модели. Результат относится к этой выборке и не гарантирует такую же точность на других аудиозаписях. Модель распространяется по лицензии MIT.
oxide-lab/whisper-large-v3-turbo-GGUF — набор квантованных версий модели openai/whisper-large-v3-turbo, подготовленный в формате GGUF. Модель предназначена для автоматического распознавания речи и может использоваться с Candle — ML-фреймворком на Rust — или с whisper.cpp. В репозитории представлены варианты для работы с локальными аудиофайлами и встраивания распознавания речи в приложения, включая сценарии на мобильных устройствах. Доступны 10 уровней квантования от q2_k до q8_0. Более компактные варианты уменьшают требования к ресурсам, но могут сильнее снижать качество; q4_k указан как рекомендуемый компромисс между размером, скоростью и точностью, а q6_k и q8_0 обеспечивают качество, близкое к исходному. Для Candle и whisper.cpp используются разные варианты файлов GGUF, отличающиеся именами тензоров и совместимостью. README указывает поддержку многоязычного режима, включая английский и русский языки, но не приводит точный список языков, размер модели, архитектурные параметры или длину контекста. Преимущество модели — сочетание возможностей Whisper с уменьшенным размером квантованных файлов и поддержкой двух распространённых сред выполнения. Ограничения связаны с возможной потерей качества при агрессивном квантовании и необходимостью выбирать формат, совместимый с конкретным движком. Модель распространяется по лицензии MIT, как и исходная модель Whisper.
Карточка модели binant/whisper-small на Hugging Face совпадает с карточкой openai/whisper-small, поэтому описание составлено по ней. Whisper Small — модель распознавания речи семейства Whisper, разработанная OpenAI. Это мультиязычная модель Transformer типа encoder-decoder с 153,1 млн параметров, обученная на размеченных аудиоданных. Она преобразует речь в текст на языке исходного аудио и может переводить речь с разных языков на английский. Для обработки аудио в Transformers используется вместе с WhisperProcessor. Модель подходит для транскрибирования записей, в том числе длинных: базовая обработка рассчитана на фрагменты до 30 секунд, а разбиение на фрагменты позволяет обрабатывать аудио произвольной длины и получать временные метки. Whisper демонстрирует устойчивость к акцентам, фоновому шуму и технической лексике, но точность различается между языками, диалектами и группами говорящих. Возможны галлюцинации, повторы и ошибки распознавания. Модель распространяется по лицензии Apache-2.0.
evewashere/cohere-transcribe-03-2026-ungated — публичное зеркало модели Cohere Transcribe, созданное для загрузки без токена доступа к gated-репозиторию. Исходную модель разработали Cohere и Cohere Labs. Это специализированная модель распознавания речи с архитектурой Cohere ASR и 2 млрд параметров; она принимает аудио и выдаёт текст. Поддерживает арабский, немецкий, греческий, английский, испанский, французский, итальянский, японский, корейский, нидерландский, польский, португальский, вьетнамский и китайский языки. Модель предназначена для транскрибации речи, в том числе в приложениях и сервисах с локальным или серверным инференсом. Разработчики заявляют высокую точность на 14 языках и скорость до трёх раз выше других специализированных ASR-моделей сопоставимого размера. Репозиторий использует формат Safetensors и поддерживается Transformers и vLLM. Лицензия — Apache-2.0. Лучшие результаты модель показывает, когда язык аудио заранее задан и остаётся одним из поддерживаемых. В ней нет автоматического определения языка, временных меток и разделения речи по говорящим; на смешанной речи качество непостоянно. Модель может ошибочно транскрибировать тихий фоновый шум, поэтому для таких записей полезны VAD или шумовой фильтр.
EraX-WoW-Turbo-V1.0 — модель распознавания речи команды EraX, дообученная на базе OpenAI Whisper Large-v3 Turbo. Она преобразует аудио в текст и предназначена для быстрой транскрибации, создания субтитров, расшифровки встреч и работы голосовых приложений. Архитектура Whisper, размер — 905,2 млн параметров. В карточке заявлены обучение на примерно 300 тысячах примеров (около 1000 часов аудио) и поддержка вьетнамского, хинди, китайского, английского, русского, немецкого, украинского, японского, французского, нидерландского и корейского языков; также заявлена обработка аудио в реальном времени. Автор приводит предварительную оценку WER около 12%, но сообщает, что бенчмарки ещё завершаются. Модель может быть полезна для автоматической расшифровки речи, субтитров и голосовых интерфейсов. README отмечает возможные трудности с детской речью и тихим шёпотом. Указана лицензия MIT.
FluidInference/parakeet-tdt-0.6b-v3-ov — версия NVIDIA Parakeet TDT V3, оптимизированная FluidInference для OpenVINO. Это модель автоматического распознавания речи на базе FastConformer-RNNT; в README указано 1,1 млрд параметров и конвейер из четырёх моделей. Она предназначена для транскрибации аудио на процессорах и NPU Intel, поддерживает 24 европейских языка и обрабатывает речь фрагментами по 10 секунд с перекрытием в 3 секунды. Среди возможностей — сохранение состояния LSTM между фрагментами, удаление повторяющихся токенов и временные метки для токенов. В тестах README приведены средний WER 3,7% на LibriSpeech test-clean и 17,0% на многоязычном FLEURS; результаты зависят от языка и оборудования. Лицензия CC BY 4.0. В метаданных базовой моделью указана nvidia/parakeet-tdt-0.6b-v3, однако README называет базовой моделью nvidia/parakeet-tdt-1.1b, а также расходится с метаданными по размеру и списку языков.
Voxtral-Small-24B-2507-gguf — это GGUF-квантизация модели Voxtral Small 1.0 (24B), разработанной Mistral AI и адаптированной для работы с transcribe.cpp. Модель предназначена для офлайн-распознавания речи, перевода речи и анализа аудио. Она принимает монофонические WAV-файлы с частотой 16 кГц и поддерживает автоматическое определение языка и перевод. Архитектура объединяет двунаправленный аудиоэнкодер Whisper-large-v3, проектор с группировкой по четыре аудиокадра и причинную языковую модель Mistral Small 24B. Декодер содержит 40 слоёв, использует GQA 32/8, NEOX RoPE и SwiGLU; аудиоданные поступают в него через внедрение аудиотокенов. Заявлена длина контекста 32k токенов: модель обрабатывает аудио длительностью до 30 минут для транскрибации и до 40 минут для понимания. Поддерживаются английский, испанский, французский, португальский, хинди, немецкий, нидерландский и итальянский языки. Сильные стороны модели — высокая точность распознавания, мультиязычность, автоматическое определение языка, возможность перевода и выполнение задач понимания аудио, включая вопросы и суммаризацию. Для LibriSpeech test-clean показатель WER составляет 1,56% для BF16 и Q8_0, а для Q4_K_M — 2,11%. Ограничения включают значительные требования к дисковому пространству и ресурсам: размеры файлов варьируются примерно от 14,30 ГБ для Q4_K_M до 48,55 ГБ для F16; встроенные метки времени не поддерживаются. Использование модели распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
Facebook wav2vec2-large-xlsr-53-portuguese — модель распознавания португальской речи, опубликованная в формате PyTorch и Flax. Она основана на архитектуре Wav2Vec2ForCTC и содержит 402,7 млн параметров; для обучения или оценки использовался набор Common Voice на португальском языке. Модель принимает аудио и преобразует речь в текст. В README приведён результат 27,1% на тестовой выборке Common Voice PT, но метрика и подробности оценки не указаны. Модель распространяется по лицензии Apache 2.0.
Whisper large-v2 — мультиязычная модель распознавания речи от OpenAI, основанная на архитектуре Transformer encoder-decoder (sequence-to-sequence). Она содержит 905,2 млн параметров и обучена на 680 тыс. часов размеченных аудиоданных; по сравнению с Whisper large модель обучалась в 2,5 раза дольше и с дополнительной регуляризацией. Модель предназначена для транскрибации речи на исходном языке и перевода речи на другой язык, в том числе на английский. Она подходит для расшифровки записей, субтитров и длинных аудиоматериалов; для обработки фрагментов длиннее 30 секунд можно использовать чанкинг. Модель устойчива к акцентам, фоновому шуму и технической лексике, но точность неодинакова для разных языков, диалектов и условий записи. Возможны галлюцинации — появление в транскрипте слов, которых нет в аудио, а также повторяющийся текст. Качество ниже для языков с малым объёмом обучающих данных и может различаться между группами говорящих. Модель распространяется по лицензии Apache-2.0.
Карточка модели kingartyqueen/whisper-large-v3-turbo на Hugging Face совпадает с карточкой openai/whisper-large-v3-turbo, поэтому описание составлено по ней. Whisper large-v3-turbo — мультиязычная модель распознавания речи OpenAI на архитектуре Transformer encoder-decoder. Это дообученная и ускоренная версия Whisper large-v3: число слоёв декодера сокращено с 32 до 4, что ускоряет вывод с небольшим снижением качества. Модель содержит 905,2 млн параметров и работает с аудио; она поддерживается библиотекой Transformers. Модель предназначена для преобразования речи в текст на языке оригинала и перевода речи между языками, включая перевод на английский. Она обучалась на более чем 5 млн часов размеченных данных и демонстрирует обобщение на новые наборы данных и предметные области. Для длинных записей требуется обработка последовательными окнами или разбиение аудио на сегменты; воспринимаемое окно составляет 30 секунд. Модель может ошибаться, добавлять слова, которых нет в аудио, и повторять фрагменты. Точность различается между языками, акцентами и диалектами и может быть ниже для языков с ограниченными обучающими данными. Лицензия — MIT.
unsloth/whisper-large-v3-turbo — мультиязычная модель распознавания речи семейства Whisper, опубликованная Unsloth в формате Transformers и Safetensors. Это Transformer-энкодер-декодер с 905,2 млн параметров, производный от openai/whisper-large-v3-turbo и openai/whisper-large-v3. В turbo-версии число слоёв декодера сокращено с 32 до 4, что ускоряет работу и снижает потребление памяти при небольшом ухудшении качества. Модель принимает аудио и преобразует речь в текст на том же языке; также семейство Whisper поддерживает перевод речи между языками. Она рассчитана на многоязычную транскрибацию, в том числе аудио на русском, английском, китайском, немецком, испанском, французском и других языках. Для аудио длиннее 30 секунд README рекомендует использовать последовательную или пакетную обработку фрагментами. Модель может быть полезна для расшифровки записей, диктовки и транскрибации аудио с разными акцентами и фоновым шумом. Возможны галлюцинации, повторы и неодинаковая точность для разных языков, акцентов и диалектов; качество может быть ниже для языков с малым объёмом обучающих данных. Лицензия — MIT.
zuazo/whisper-medium-es — модель распознавания речи, созданная дообучением openai/whisper-medium на испанской части набора Mozilla Common Voice 13.0. Она принимает аудио и генерирует текст; предназначена прежде всего для транскрибации испанской речи. Архитектура — Whisper, плотная модель с 455,8 млн параметров. На оценочном наборе указаны loss 0,1915 и WER 5,4088. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0, которая разрешает использование, изменение и распространение с указанием авторства.
bofenghuang/whisper-medium-french — модель распознавания французской речи, полученная дообучением openai/whisper-medium. Она предназначена для преобразования аудиозаписей на французском языке в текст и обучена на составном наборе данных с более чем 2200 часами речи, включая Common Voice, Multilingual LibriSpeech, VoxPopuli, Fleurs, Multilingual TEDx, MediaSpeech и African Accented French. Модель построена на архитектуре Whisper и содержит около 455,8 млн параметров; для входного аудио требуется частота дискретизации 16 кГц. В README приведены результаты оценки на французских поднаборах Common Voice 11.0, Multilingual LibriSpeech, VoxPopuli и Fleurs. Модель не предсказывает регистр букв и пунктуацию, а опубликованные оценки рассчитаны на предварительно отфильтрованных данных. Репозиторий распространяется под лицензией Apache-2.0.
Модель Dianavdavidson — дообученная на наборе данных Vaani модель автоматического распознавания речи на базе OpenAI Whisper Medium. Она принимает аудио и генерирует текстовую расшифровку; в карточке указаны 455,8 млн параметров, архитектура Whisper и формат safetensors. На оценочном наборе приведены Loss 0,4028 и Global WER 28,6796, однако описание не уточняет состав набора и методику оценки. Модель распространяется по лицензии Apache-2.0.
Whisper Small — модель распознавания речи семейства Whisper, разработанная OpenAI. Это мультиязычная модель Transformer типа encoder-decoder с 153,1 млн параметров, обученная на размеченных аудиоданных. Она преобразует речь в текст на языке исходного аудио и может переводить речь с разных языков на английский. Для обработки аудио в Transformers используется вместе с WhisperProcessor. Модель подходит для транскрибирования записей, в том числе длинных: базовая обработка рассчитана на фрагменты до 30 секунд, а разбиение на фрагменты позволяет обрабатывать аудио произвольной длины и получать временные метки. Whisper демонстрирует устойчивость к акцентам, фоновому шуму и технической лексике, но точность различается между языками, диалектами и группами говорящих. Возможны галлюцинации, повторы и ошибки распознавания. Модель распространяется по лицензии Apache-2.0.
zuazo/whisper-small-es — дообученная модель распознавания речи на основе openai/whisper-small, созданная на датасете испанской речи Common Voice 13.0. Она предназначена для преобразования испанской речи в текст. Архитектура — WhisperForConditionalGeneration; модель содержит 153,1 млн параметров и работает с аудио на входе. В README для оценки на тестовой выборке указаны Loss 0,2212 и WER 8,2668. Модель распространяется по лицензии Apache-2.0, разрешающей использование, изменение и распространение с указанием авторов.
Ąžuolas Whisper LT CT2 — литовская модель распознавания речи, созданная akisviete на основе Ąžuolas Whisper LT и преобразованная в формат CTranslate2 для работы с faster-whisper. В репозитории доступны варианты float16 и int8_float16; второй занимает около 1,5 ГБ вместо 2,9 ГБ, при этом в приведённых тестах качество почти не меняется. Исходная модель основана на Whisper large-v3 и обучена на литовской речи из корпуса LIEPA-3. Модель предназначена для транскрибации литовской речи с временными метками сегментов. В тестах указаны WER 9,05% на FLEURS LT и 4,60% на Common Voice 26.0 LT. Для практического использования автор рекомендует включать фильтр тишины VAD и делить длинные записи на фрагменты до 22 секунд. Модель выдаёт текст строчными буквами без пунктуации и может генерировать текст на участках тишины без VAD. Лицензия — CC BY 4.0.
Canary-1B — многоязычная модель распознавания и перевода речи от NVIDIA, доступная как предварительно обученный чекпойнт для NeMo. Она предназначена для преобразования аудио в текст: распознаёт английскую, немецкую, испанскую и французскую речь, а также переводит речь с английского на немецкий, французский или испанский и обратно на английский. Для текста можно включать или отключать пунктуацию и заглавные буквы. Модель содержит 1 млрд параметров и использует архитектуру encoder-decoder: энкодер FastConformer с 24 слоями и Transformer-декодер с 24 слоями. На вход подаётся монофоническое аудио с частотой дискретизации 16 кГц и указаниями задачи и языков; на выходе — распознанный или переведённый текст. Для работы используется инструментарий NVIDIA NeMo. Модель обучена на 85 тысячах часов речи, включая публичные, собранные Suno и внутренние данные. Карточка приводит оценки WER на тестовой выборке Common Voice 16.1: 7,97 для английского, 4,61 для немецкого, 3,99 для испанского и 6,53 для французского. Результаты зависят от языка и условий записи; эти показатели не гарантируют точность на других данных. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
Nemotron-Labs-Audex-30B-A3B — унифицированная аудио-текстовая языковая модель NVIDIA на базе Nemotron-Cascade-2-30B-A3B. Это MoE-модель с 30 млрд параметров и 3 млрд активируемых параметров; для аудио она расширяет словарь дискретных аудиотокенов и включает аудиоэнкодер. Модель работает в режимах рассуждения и инструкций и предназначена для аудио- и речевых задач, а также для текстовых диалогов и рассуждений. Модель понимает аудио, распознаёт и переводит речь, генерирует речь из текста, создаёт аудио по текстовому описанию и поддерживает взаимодействие «речь — речь». По заявлению разработчика, она сохраняет возможности базовой модели в рассуждениях, знаниях, длинном контексте и работе с агентными сценариями. Доступны веса Safetensors; для запуска описана поддержка vLLM и Transformers, а для некоторых аудиосценариев нужны дополнительные зависимости и декодеры. Лицензия указана как other, поэтому условия использования следует уточнять в карточке репозитория. Длина контекста и конкретный перечень поддерживаемых языков в предоставленных данных не обозначены; метаданные указывают английский язык.
iljab/omniASR-CTC-3B-v2 — преобразованный в формат Hugging Face чекпойнт omniASR-CTC-3B-v2 от Meta. Модель предназначена для автоматического распознавания речи и выдаёт текстовую расшифровку аудио. В Transformers используется класс Wav2Vec2ForCTC; энкодер содержит 60 слоёв со скрытым размером 2048. В репозитории указаны веса safetensors и лицензия Apache-2.0. Модель подходит для транскрибации аудиозаписей и интеграции распознавания речи в приложения на базе Transformers. README не сообщает поддерживаемые языки, ограничения по качеству, требования к аудио или длину контекста, поэтому эти характеристики здесь не уточняются.
Модель ctaguchi/parakeet-hf-ctc-110m-en — англоязычная модель автоматического распознавания речи семейства Parakeet, преобразованная из nvidia/parakeet-tdt_ctc-110m в формат Transformers для Hugging Face. Она принимает аудио и преобразует речь в текст, поэтому подходит для транскрибирования англоязычных записей и интеграции распознавания речи в приложения на базе Transformers. Модель использует архитектуру CTC ParakeetForCTC и распространяется в формате safetensors. Лицензия — CC BY 4.0. Карточка указывает на преобразование формата; сведений о размере модели и поддерживаемой длине аудио в доступных данных нет.
BuzzASR/slovenian — одноязычная модель автоматического распознавания речи для словенского языка, разработанная как часть набора BuzzASR из 102 специализированных моделей. Она дообучена методом fine-tuning на базе openai/whisper-large-v3 и использует архитектуру Whisper large-v3 с 905,2 млн параметров. Модель принимает аудио и преобразует речь в текст; языковая и задачная подсказка включена в конфигурацию генерации. Модель предназначена для транскрибации словенской речи. В приведённых тестах FLEURS и Common Voice 25 она показала CER 4,98% и 0,65% соответственно, а на объединённом наборе — CER 2,31% и WER 7,83%; результаты относятся к указанным тестовым выборкам. Обучение использовало данные FLEURS, Common Voice Corpus 25.0 и текстовые данные корпуса Goldfish. Модель выпущена под лицензией MIT.
Community-1 — конвейер диаризации речи, опубликованный командой pyannote. Он принимает аудио и определяет, кто и в какие моменты говорит, включая число говорящих и их временные интервалы. Входное аудио приводится к моно и частоте 16 кГц; конвейер pyannote.audio можно запускать локально, в том числе офлайн после загрузки модели, или использовать через облачный сервис pyannoteAI. Модель предназначена для разметки разговоров и записей с несколькими участниками. Она предоставляет обычную и эксклюзивную диаризацию: последняя упрощает сопоставление интервалов говорящих с временными метками транскрипции. В README сообщается об улучшении показателей диаризации по сравнению с предыдущим конвейером pyannote 3.1 на ряде академических тестов. Для доступа нужно принять условия использования на Hugging Face и получить токен. Лицензия репозитория — CC BY 4.0.
Wav2Vec2-Base-VoxPopuli-Finetuned — модель распознавания речи, разработанная Facebook AI. Она основана на Wav2Vec2 Base: модель предварительно обучили на 10 тысячах неразмеченных фрагментов корпуса VoxPopuli, а затем дообучили на расшифрованных аудиозаписях этого корпуса. Архитектура — Wav2Vec2ForCTC, размер — 113,3 млн параметров; модель принимает аудио и выдаёт текстовую расшифровку на итальянском языке. Модель предназначена для автоматического распознавания итальянской речи, например для транскрибации записей и подготовки текстовых субтитров. В README приведён пример инференса на образце Common Voice. Репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
Модель jonatasgrosman/wav2vec2-large-xlsr-53-greek — система автоматического распознавания греческой речи, созданная дообучением facebook/wav2vec2-large-xlsr-53. Она принимает аудио и преобразует речь в текст; для входной записи требуется частота дискретизации 16 кГц. Модель основана на архитектуре wav2vec2, использует CTC-выход и содержит около 402,7 млн параметров. Для дообучения использовались обучающая и валидационная части Common Voice 6.1 и CSS10. В оценке на греческой тестовой выборке Common Voice указаны WER 11,62% и CER 3,36%; результаты могут отличаться при других настройках оценки. Модель распространяется по лицензии Apache-2.0.
jonatasgrosman/wav2vec2-xls-r-1b-russian — модель распознавания русской речи, дообученная Jonatas Grosman на основе facebook/wav2vec2-xls-r-1b с помощью инструмента HuggingSound. Модель использует архитектуру Wav2Vec2ForCTC и принимает аудио, записанное с частотой дискретизации 16 кГц, чтобы преобразовать речь в текст. Модель предназначена для автоматической транскрибации русской речи. При дообучении использовались обучающая и валидационная части Common Voice 8.0, Golos и Multilingual TEDx. В метаданных указаны 1,3 млрд параметров и поддержка русского языка. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0.
Карточка модели Akshat-exe/whisper-base на Hugging Face совпадает с карточкой openai/whisper-base, поэтому описание составлено по ней. Whisper Base — мультиязычная модель распознавания речи, разработанная OpenAI. Это Transformer-энкодер-декодер с архитектурой sequence-to-sequence и примерно 51,7 млн параметров; модель принимает аудио и преобразует речь в текст на том же языке. Семейство Whisper обучалось на 680 тысячах часов размеченных аудиоданных со слабым контролем, что помогает ему обобщать на разные наборы данных и предметные области без дообучения. Модель также может переводить речь на английский язык; для длинных записей транскрипцию можно выполнять частями с помощью chunking в Transformers. Whisper Base подходит для транскрибации аудио, включая речь с акцентами, фоновым шумом и технической лексикой, а также для перевода речи на английский. Карточка сообщает о поддержке множества языков, среди них английский, русский, китайский, немецкий, испанский и французский. Для обычного использования модель распространяется по лицензии Apache-2.0. Распознавание может содержать галлюцинации — текст, отсутствующий в аудио, а также повторы. Точность неравномерна между языками, акцентами и диалектами и может быть ниже для языков с малым объёмом обучающих данных. Для модели указана длина входных аудиофрагментов до 30 секунд; более длинные записи обрабатываются с разбиением на части.
bofenghuang/whisper-large-v2-french — дообученная версия Whisper large-v2 для распознавания французской речи. Модель разработана bofenghuang на основе openai/whisper-large-v2 и обучена на составном наборе из более чем 2200 часов аудио, включавшем Common Voice 11.0, Multilingual LibriSpeech, VoxPopuli, Fleurs, Multilingual TEDx, MediaSpeech и African Accented French. В метаданных указаны архитектура WhisperForConditionalGeneration, 905,2 млн параметров и библиотека Transformers. Модель преобразует французскую речь в текст и подходит для транскрибации записей и аудио из разных источников, в том числе речи с африканскими акцентами. Для распознавания входное аудио следует подавать с частотой дискретизации 16 кГц. Модель не предсказывает регистр букв и пунктуацию; приведённые в карточке показатели WER относятся к отфильтрованным и предобработанным тестовым наборам и не описывают все условия использования. Распространяется по лицензии Apache-2.0.