I.3Извлечение и структурирование данных

dealignai/Qwen3.8-Flash-Next-UNCENSORED-FP8 — модифицированная версия Qwen3.8-Flash-Next-FP8 от команды dealignai. Модель предназначена для генерации текста, решения задач и сценариев, где требуется повышенная готовность отвечать на широкий спектр запросов без встроенных отказов. Также заявлена поддержка обработки изображений благодаря сохранённой vision tower. Модель работает в формате FP8 и сохраняет MTP head и vision tower базовой модели. В README также указана архитектура MoE, однако размер модели, максимальная длина контекста и перечень поддерживаемых языков не приведены. По заявленным внутренним тестам, модель демонстрирует более глубокое рассуждение: на пяти логических головоломках она решила четыре задачи против трёх у базовой модели, при этом использовала примерно в 3,5 раза больше токенов рассуждения. На полном тесте MMLU результат составил 80,39% против 83,54% у базовой модели, то есть снижение общей точности знаний сопровождается неоднородными изменениями по отдельным предметам. К сильным сторонам относятся сохранённые мультимодальные возможности, поддержка FP8, отсутствие жёстких отказов в заявленном тестировании HarmBench и увеличение глубины рассуждений. Ограничения включают возможное ухудшение точности на части академических и прикладных тематик, повышенный расход токенов при рассуждении и отсутствие подробных сведений о размере, контексте и языках. Модель распространяется по лицензии Apache-2.0.

OpenASR/qwen3-asr-0.6b — компактная модель автоматического распознавания речи, разработанная командой Qwen при Alibaba и упакованная проектом OpenASR в нативный формат .oasr. Модель основана на Qwen3-ASR-0.6B и предназначена для преобразования аудио в текст с поддержкой офлайн- и потоковой транскрипции, включая обработку длинных аудиозаписей и встроенное определение языка речи. Модель поддерживает 30 языков и 22 китайских диалекта, всего 52 языка и диалекта. Она рассчитана на эффективное использование на CPU и GPU, работает в OpenASR без Python во время инференса и доступна в вариантах fp16, q8_0 и q4_k. Размер сборок составляет примерно от 631 МБ до 1,88 ГБ; q8_0 рекомендуется как компромисс между качеством и занимаемой памятью, q4_k — для устройств с ограниченными ресурсами, а fp16 — для максимальной точности. Для распознавания сложного аудио заявлена устойчивость к чистой речи, вокалу и песням с фоновой музыкой. Ограничения включают отсутствие заявленной поддержки распознавания лиц или других модальностей, а также отсутствие встроенных таймкодов уровня слов; для них рекомендуется использовать отдельную модель Qwen3-ForcedAligner-0.6B. Пакеты распространяются по лицензии Apache-2.0, унаследованной от исходной модели; OpenASR выполняет конвертацию формата и квантизацию.

Qwen3-ASR-1.7B-hf — плотная модель распознавания речи семейства Qwen3-ASR от команды Qwen. Она принимает аудио и преобразует речь в текст, одновременно поддерживая определение языка; работает с потоковой и офлайн-обработкой, длинными аудиозаписями и пакетной транскрибацией. Модель основана на возможностях аудиопонимания Qwen3-Omni и содержит 1,7 млрд параметров. Модель предназначена для распознавания речи на 30 языках и диалектах, включая русский, английский, китайский и кантонский, а также китайские региональные диалекты. В README также заявлена поддержка пения и песен с фоновой музыкой. Можно указать язык распознавания и передать контекст или ключевые слова, чтобы улучшить распознавание терминов и имён. Для временных меток слов предусмотрена отдельная модель Qwen3-ForcedAligner; это не функция данного чекпойнта. В README модель характеризуется как высокоточная и устойчивая к сложной акустической обстановке; приведены результаты оценки на наборе речевых тестов. Репозиторий использует Transformers и формат safetensors. Лицензия Apache-2.0.

Rombo-LLM-V2.7-llama-3.2-1b — плотная авторегрессионная языковая модель Rombo-Org на архитектуре LlamaForCausalLM. По карточке, модель объединяет предварительно обученную и инструктивно настроенную версии Llama 3.2 1B; в метаданных базовой моделью указана meta-llama/Llama-3.2-1B-Instruct. Модель содержит 1,2 млрд параметров, принимает текст и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, а также может использоваться для дальнейшего дообучения или инференса без дополнительной настройки. Метаданные также отмечают интерфейс вызова инструментов. Модель опубликована в формате safetensors и распространяется по лицензии Llama 3.2. README не приводит результаты оценивания качества, поэтому пригодность для конкретных задач следует проверять отдельно.

Карточка модели Veritone/siglip2-so400m-patch16-512 на Hugging Face совпадает с карточкой google/siglip2-so400m-patch16-512, поэтому описание составлено по ней. SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google. Это визуальный энкодер, обученный на WebLI и предназначенный для сопоставления изображений с текстовыми описаниями. Модель поддерживает классификацию изображений по произвольным текстовым меткам без отдельного обучения и поиск изображений по тексту или текста по изображению; её также можно использовать как визуальную часть мультимодальных систем и в других задачах компьютерного зрения. Модель принимает изображения и текстовые описания, кодирует их для сравнения и выдаёт оценки соответствия. Архитектура SigLIP, вариант So400m; доступные веса представлены в формате safetensors и используются через Transformers. В README отмечены улучшенное семантическое понимание, локализация и плотные визуальные признаки. Лицензия — Apache-2.0. Размер модели и длина контекста в предоставленных данных не указаны.

MindLink-32B-0801-GGUF — это GGUF-квантизованная версия языковой модели MindLink-32B-0801, разработанной Skywork и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска в llama.cpp, LM Studio и других совместимых проектах на базе llama.cpp. Модель имеет размер 32B параметров и поставляется в вариантах от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные форматы. Размер файлов составляет примерно от 13,7 до 65,5 ГБ в зависимости от варианта. Квантизация выполнена с использованием imatrix на базе llama.cpp release b6014; старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но сильнее уступают в качестве. Поддерживаемые языки, размер контекстного окна, точная архитектура, мультимодальность и специализация исходной модели в README не указаны. Сильная сторона модели — широкий выбор квантизаций для локального запуска и возможность подобрать баланс между качеством, потреблением памяти и скоростью. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6. Ограничением является отсутствие указанного chat template: в README отмечено, что используется шаблон по умолчанию, который может быть некорректным, поэтому его следует сверять с карточкой исходной модели. Лицензия в предоставленных данных не указана.

Spark-X2.5-4B-GGUF — это набор квантованных моделей в формате GGUF для генерации текста, основанный на Spark-X2.5-4B от XHToken. Конвертацию весов в GGUF выполнил Pink Pixel с использованием специальной сборки llama.cpp для Spark 2.5. Модель предназначена для локального запуска через llama.cpp и совместимые приложения, включая Ollama и LM Studio, а также для создания локальных чат-ассистентов и других сценариев генерации текста. Модель использует архитектуру Spark 2.5 с поддержкой гибридного внимания: скользящего окна и слоёв полного внимания. Заявлена длина контекста до 1 048 576 токенов, размер словаря — 131 072 токена. Поддерживаются английский и китайский языки. Доступны варианты от BF16 до квантований Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q3_K_M и Q2_K с размером файлов примерно от 1,66 до 7,66 ГБ. Более сильное сжатие уменьшает требования к памяти, но может заметно снижать качество вывода. К сильным сторонам относятся компактный размер исходной модели, высокая эффективность, большой контекст и широкий выбор квантований для устройств с разными ограничениями по памяти. Ограничением является необходимость поддержки архитектуры Spark2_5ForCausalLM в llama.cpp или используемом клиенте; качество и требования к ресурсам зависят от выбранного уровня квантования. Модель и исходные веса распространяются по лицензии Apache 2.0.

Speechless Mistral Dolphin Orca Platypus Samantha 7B — это языковая модель для генерации текста на основе архитектуры Mistral с примерно 7 млрд параметров. Исходную модель разработал Jiangwen Su, а данный репозиторий подготовлен TheBloke и содержит её квантизированные версии в формате GGUF. Модель обучалась на наборах данных Airoboros 2.2.1, OpenOrca, Open-Platypus и Samantha. Модель предназначена для текстового диалога, ответов на вопросы, следования инструкциям и других сценариев генерации текста. Также заявлена ориентация на задачи, связанные с кодом; в метаданных приведён результат pass@1 34,146% на HumanEval, однако он не подтверждён. Указан английский язык. Для взаимодействия используется шаблон ChatML с системным сообщением, запросом пользователя и ответом ассистента. GGUF-версии поддерживаются llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие, что делает модель пригодной для локального запуска на CPU и GPU. Доступны варианты квантизации от 2 до 8 бит: меньшая разрядность обычно снижает требования к памяти, но может ухудшать качество по сравнению с исходной моделью. Сведения о размере контекста и мультимодальных возможностях не указаны; модель предназначена для работы с текстом. Лицензия указана как Llama 2.

speechless-mistral-six-in-one-7b-orth-1.0-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 от Mistral AI и speechless-mistral-six-in-one-7b-orth-1.0 от uukuguy. Для слияния использован метод SLERP с настройками Mergekit; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Она принимает текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Языки, на которых модель специально обучена, в карточке не перечислены. Модель распространяется по лицензии Apache-2.0. Качество и поведение зависят от свойств исходных моделей и параметров их слияния; README не приводит отдельных результатов оценки или гарантий для конкретных сценариев.

SPTK-2 — многоязычная модель автоматического распознавания речи от SVECTOR. Это модель типа encoder-decoder с архитектурой E-Branchformer и разреженным MoE-декодером; веса представлены в формате safetensors. Модель предназначена для транскрибации аудио, перевода распознанной речи и получения временных меток. В README заявлена поддержка более 99 языков, а метаданные перечисляют языки, включая русский, английский, китайский, немецкий, испанский, корейский, японский и другие. Модель опубликована в апреле 2025 года. Карточка сообщает об улучшенной точности распознавания, точности временных меток и энергоэффективности по сравнению с предыдущими моделями, однако сравнительные результаты не приведены. Лицензия указана как other, без дополнительных условий в предоставленных данных.

StrangeMerges_39-7B-dare_ties — объединённая модель Gille, созданная с помощью LazyMergekit на основе Gille/StrangeMerges_33-7B-slerp, Gille/StrangeMerges_17-7B-dare_ties и NousResearch/Hermes-2-Pro-Mistral-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации ответов в чате, продолжения текста и выполнения текстовых инструкций. Данные не описывают отдельную специализацию по языкам или прикладным областям, поэтому языки и домены не уточняются. Лицензия в предоставленных сведениях не указана.

sentence-transformers/stsb-distilbert-base — модель для получения векторных представлений предложений и абзацев, обученная командой sentence-transformers. Она основана на DistilBERT и преобразует текст в плотные векторы размерности 768; для корректного получения представления при использовании Transformers требуется применить соответствующую операцию pooling к контекстным представлениям токенов. Модель предназначена для семантического поиска, сравнения сходства предложений и кластеризации текстов. Контекст ограничен 512 токенами. Доступны версии в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Карточка предупреждает, что модель устарела и создаёт эмбеддинги низкого качества, поэтому рекомендует выбрать более современную модель из SBERT.net. Лицензия — Apache-2.0.

NVIDIA Conformer-Transducer X-Large — англоязычная модель автоматического распознавания речи из семейства Conformer, разработанная NVIDIA и доступная через инструментарий NeMo. Она преобразует монофоническую аудиозапись WAV с частотой 16 кГц в текстовую строку; результат записывается строчными буквами английского алфавита с пробелами и апострофами. Модель использует архитектуру Conformer-Transducer с авторегрессионным декодированием и содержит около 600 млн параметров. Её можно применять для транскрибации аудиофайлов или дообучать на другом наборе данных с помощью NeMo. Модель обучалась на составном наборе из нескольких тысяч часов английской речи, включающем Librispeech, Fisher, Switchboard, Common Voice и другие корпуса. Модель подходит для транскрибации английской речи, но качество может снижаться на технической лексике, незнакомом просторечии и речи с акцентом. Лицензия — CC BY 4.0; при использовании необходимо соблюдать её условия.

NVIDIA Streaming Citrinet 1024 для украинского языка — потоковая модель автоматического распознавания речи, разработанная NVIDIA. Это неавторегрессионная архитектура Citrinet с CTC-декодированием, примерно 141 млн параметров. Модель дообучена на украинской речи методом переноса знаний с русской Citrinet-1024 и обучалась на 69 часах проверенных записей Mozilla Common Voice 10.0. Модель принимает монофонические WAV-записи с частотой дискретизации 16 кГц и возвращает текстовую расшифровку украинской речи в нижнем регистре, включая пробелы и апострофы. Её можно применять для распознавания речи в потоковом режиме, пакетной транскрибации и как контрольную точку NeMo для инференса или дальнейшего дообучения; также поддерживается развёртывание через NVIDIA Riva. Лицензия — CC-BY-4.0. В README приведены результаты WER на тестовых и валидационных наборах Common Voice 8–10. Качество может снижаться на технической лексике, непривычных разговорных вариантах и акцентированной речи.

Okwija разработал sunbird-whisper-lin-sna-V2 — дообученную модель распознавания речи на базе Sunbird/asr-whisper-51-african-languages, использующей архитектуру Whisper. Модель предназначена для преобразования аудиоречи в текст; базовая модель ориентирована на 51 африканский язык, а также английский и французский с африканскими акцентами. В README приведены результаты оценки: loss 0,1994, WER 0,2508 и CER 0,0425. Модель доступна в формате safetensors и рассчитана на использование через библиотеку Transformers. Репозиторий указывает лицензию Apache-2.0. README не уточняет языки и условия оценки конкретно для этой версии, поэтому возможности базовой модели не следует считать подтверждением качества на каждом из её языков.

google/t5gemma-l-l-ul2 — предобученная текстовая encoder-decoder модель семейства T5Gemma, разработанная Google: вариант с энкодером и декодером размера L, адаптированный с использованием UL2. Архитектура преобразует текст в текст и рассчитана на генеративные задачи; веса опубликованы в формате safetensors для Transformers. Модель относится к серии T5Gemma, созданной на основе адаптации декодерных моделей Gemma к архитектуре encoder-decoder. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и рассуждений; энкодер также подходит для задач классификации и понимания текста. В карточке указана поддержка английского языка. Возможные сценарии включают создание черновиков и кратких изложений, а также NLP-исследования. Точный размер параметров и длина контекста для этого репозитория не приведены. К ограничениям относятся возможные ошибки в фактах, чувствительность к формулировке запроса и контексту, трудности с языковыми нюансами, а также смещения и пробелы в обучающих данных. Лицензия Gemma; использование должно соответствовать условиям лицензии и политике допустимого использования Gemma.

Hunyuan-A13B-Instruct-GGUF — квантизированная версия языковой модели Hunyuan-A13B-Instruct, разработанной Tencent. Модель предназначена для генерации текста и работы в инструкционном диалоговом формате. Квантизация выполнена пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix; доступны варианты от Q2_K_L до Q8_0 размером примерно от 29 до 85 ГБ. Модель можно запускать через llama.cpp, LM Studio и другие совместимые проекты. README не раскрывает точную архитектуру, число активных и общих параметров, максимальный контекст, поддерживаемые языки или дополнительные модальности. Основное преимущество представленной версии — широкий выбор уровней квантизации: более высокие варианты сохраняют лучшее качество, а компактные требуют меньше оперативной памяти. При этом сильное сжатие снижает качество ответов, а для запуска большинства вариантов необходим значительный объём памяти. Для корректной работы требуется специальный формат промпта с токенами <|startoftext|>, <|extra_4|> и <|extra_0|>. Модель распространяется по лицензии Tencent Hunyuan A13B; ссылка на текст лицензии приведена в исходном репозитории Tencent. Условия лицензии следует проверить перед коммерческим или иным использованием.

Это объединённая модель генерации текста на архитектуре Llama, созданная с помощью mergekit методом della_linear. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2; также объединены Solshine/reflection-llama-3.1-8B, три версии ArliAI/Llama-3.1-8B-ArliAI-RPMax и Skywork-o1-Open-Llama-3.1-8B. Размер модели — 7,5 млрд параметров, формат весов — safetensors. Модель предназначена для диалоговой генерации текста и ответов на инструкции. Контекстное окно составляет до 131 072 токенов; метаданные также указывают интерфейс вызова инструментов. Карточка не приводит оценки качества или результаты тестирования. Лицензия в предоставленных сведениях не указана.

tevatron-elastic-qwen3-0.6b-retriever-depth — плотная модель поиска документов на основе Qwen3-0.6B-Base, дообученная командой UtahNLP с помощью Tevatron-Elastic. Она кодирует запросы и фрагменты документов в представления для извлечения релевантных материалов; для различения входов используются префиксы query: и passage:. Модель содержит 507,9 млн параметров, имеет контекст до 32 768 токенов, а в обучении использовались последовательности длиной до 512 токенов и датасет rlhn/rlhn-680K. Это модель с эластичной настройкой глубины: один чекпойнт позволяет выбирать число используемых слоёв и балансировать скорость и качество через параметры prune_to и encode_at в Tevatron-Elastic. Для полной конфигурации авторы сообщают nDCG@10 0,518 на BEIR-15. Чекпойнт выпущен как ресурс для воспроизводимости исследования, а не как заявление о превосходстве над другими моделями. Лицензия — Apache-2.0.

Карточка модели leif1557/text2vec-base-chinese-sentence на Hugging Face совпадает с карточкой shibing624/text2vec-base-chinese-sentence, поэтому описание составлено по ней. shibing624/text2vec-base-chinese-sentence — модель text2vec, разработанная проектом text2vec. Это дообученный методом CoSENT китайский энкодер предложений на базе nghuyong/ernie-3.0-base-zh. Модель преобразует предложение или короткий абзац в плотный вектор размерностью 768 для сравнения семантической близости; она предназначена для поиска по смыслу, сопоставления текстов, кластеризации и задач sentence-to-sentence. Архитектура основана на ERNIE, размер модели — 144 млн параметров. Контекст модели составляет до 2048 токенов по метаданным, а карточка указывает усечение входа после 256 word pieces. Модель обучена на отобранных китайских данных семантической близости shibing624/nli-zh-all и рассчитана прежде всего на китайский язык. Она выдаёт векторные представления, пригодные для поиска и ранжирования по косинусной близости. По карточке приведены оценки на китайских наборах NLI и STS, но они не дают гарантии качества на других языках и доменах. Распространяется по лицензии Apache-2.0.

rohit-vt/tink-reranker-phase5_minilm_multikind — текстовый Cross-Encoder на архитектуре BERT, дообученный на базе cross-encoder/ms-marco-MiniLM-L6-v2 с использованием Sentence Transformers. Модель совместно обрабатывает пару текстов и выдаёт оценку их соответствия, которую можно использовать для переранжирования результатов поиска и семантического поиска. Модель содержит 25,9 млн параметров, поддерживает последовательности длиной до 512 токенов и выдаёт один числовой скор. Для обучения указаны 93 031 пример и функция BinaryCrossEntropyLoss; в карточке приведены примеры пар, связанные с навыками и профессиями. Лицензия в предоставленных данных не указана.

Vikhr-Qwen-2.5-1.5B-Instruct — инструктивно дообученная модель команды Vikhrmodels на базе Qwen/Qwen2.5-1.5B-Instruct. Для SFT использован синтетический русскоязычный датасет GrandMaster-PRO-MAX из 150 тысяч инструкций. Модель предназначена для генерации текста, ответов на инструкции и вопросы, а также анализа текста в диалоговых сценариях. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 1,5 млрд параметров. Она рассчитана прежде всего на русский язык, поддерживает также английский; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors, а метаданные отмечают возможности чата и интерфейс вызова инструментов. Модель подходит для встраивания в приложения и сервисы, которым нужна компактная двуязычная языковая модель. Качество отдельных задач и надёжность вызова инструментов в карточке не приведены, поэтому их стоит проверять на собственных сценариях. Лицензия — Apache-2.0.

RedHatAI/Voxtral-Mini-3B-2507-FP8-dynamic — мультимодальная модель компании Mistral, созданная на базе Voxtral-Mini-3B-2507 и оптимизированная Red Hat в формате FP8. Она принимает аудио и текст, а генерирует текст; модель предназначена для автоматического распознавания речи, перевода речи, понимания аудио, ответов на вопросы по аудиозаписям и их суммаризации. Также заявлена поддержка вызова функций на основе голосовых намерений и сохранение возможностей текстового понимания базовой модели Ministral-3B. Модель имеет архитектуру VoxtralForConditionalGeneration, поддерживает контекст до 32 тысяч токенов и работает с аудио длительностью до 30 минут для транскрибации и до 40 минут для анализа. Она автоматически определяет язык речи и поддерживает английский, французский, испанский, португальский, хинди, немецкий, нидерландский и итальянский языки. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8: это примерно вдвое снижает требования к памяти и размер модели, а также может увеличить пропускную способность матричных умножений примерно в два раза. К сильным сторонам относятся сочетание распознавания речи и языкового анализа в одной модели, мультиязычность, обработка длинных аудиозаписей и возможность работы через vLLM. Ограничения включают зависимость качества от исходной Voxtral-модели и возможные потери точности из-за квантизации; конкретные показатели качества в README не приведены. Модель распространяется по лицензии Apache-2.0 и валидирована для RHOAI 2.25, RHAIIS 3.2.2 и vLLM 0.10.1.1.

Wav2Vec2-Large-XLSR-53-Romanian — модель распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на румынском языке с использованием Common Voice. Она принимает аудиозапись речи с частотой дискретизации 16 кГц и преобразует её в текст; модель можно применять напрямую, без отдельной языковой модели. Архитектура — Wav2Vec2ForCTC, число параметров — 402,7 млн. В карточке приведён результат оценки 28,43% на тестовой части Common Voice, но метрика не уточнена. Модель распространяется под лицензией Apache-2.0; доступны веса в форматах PyTorch и Flax.

Whisper Base.en — преобразованная в формат CTranslate2 версия англоязычной модели OpenAI whisper-base.en. Она распознаёт английскую речь и преобразует аудио в текст; для запуска карточка рекомендует библиотеку whisper-s2t-reborn. Веса представлены с точностью float32. Модель предназначена для транскрибации английской речи, например записей и разговоров. Вариант base.en относится к компактным моделям семейства Whisper; параметры контекста и размер модели в предоставленных данных не приведены. Репозиторий распространяется по лицензии Apache-2.0.

mlx-community/whisper-large-v3-4bit — версия Whisper large-v3 от сообщества mlx-community, преобразованная из openai/whisper-large-v3 для использования с mlx-audio-plus. Модель предназначена для распознавания речи и преобразования аудио в текст; её можно применять для транскрибации записей и расшифровки речи в приложениях на MLX. В основе лежит мультиязычная архитектура Whisper large-v3 от OpenAI. Название репозитория указывает на представление с 4-битной точностью; карточка сообщает о преобразовании в формат MLX, а метаданные указывают библиотеку mlx-audio-plus и файлы safetensors. Базовая модель поддерживает транскрибацию речи и перевод аудио в текст. Модель распространяется по лицензии Apache-2.0.

OpenVINO/whisper-large-v3-int8-ov — это модель автоматического распознавания речи, основанная на Whisper large-v3, разработанном OpenAI. Модель преобразована в формат OpenVINO IR, а её веса сжаты до INT8 с использованием NNCF. Она предназначена для преобразования аудиозаписей в текст и поддерживает широкий набор языков, включая английский, китайский, немецкий, испанский, русский, французский, японский, арабский, украинский и многие другие. Ключевые особенности модели — совместимость с OpenVINO и возможность запуска через Optimum Intel, OpenVINO GenAI или OpenVINO Model Server, в том числе на CPU и совместимом GPU. Квантизация INT8_ASYM с размером группы 128 снижает требования к памяти и может повысить эффективность инференса, однако README не содержит количественных данных о точности, скорости или влиянии сжатия на качество распознавания. Для работы требуется OpenVINO версии 2025.2.0 или новее и Optimum Intel версии 1.23.0 или новее. Модель распространяется по лицензии Apache-2.0; ограничения следует дополнительно учитывать по оригинальной карточке Whisper large-v3.

RedHatAI/whisper-large-v3-turbo-FP8-dynamic — это квантизированная версия модели openai/whisper-large-v3-turbo, разработанная Neural Magic. Модель преобразует аудио в текст и предназначена для автоматического распознавания речи, включая транскрибацию аудиозаписей и обработку аудиовходов в приложениях, использующих vLLM. Для развёртывания требуется vLLM версии 0.5.2 или новее; также поддерживается OpenAI-совместимый режим сервинга через vLLM. Архитектура основана на whisper-large-v3-turbo и включает аудио-текстовый вход и текстовый выход. Веса и активации квантизированы в формате FP8 с динамической схемой квантизации; выходной lm_head не квантизируется. README не указывает точный размер модели, максимальную длину контекста и полный список поддерживаемых языков, однако приводит тег языка en и оценки для англоязычной транскрибации и перевода на английский. Ключевое преимущество модели — снижение вычислительных затрат при сохранении качества исходной модели: на LibriSpeech показатель WER составляет 2,2611 на test-clean и 4,3247 на test-other в конфигурации FP8. На test-clean результат сопоставим с BF16, а на test-other немного уступает ему. Ограничения включают зависимость от совместимого стека vLLM и отсутствие в README подробных данных о качестве на других языках и сценариях. Модель распространяется по лицензии Apache-2.0.

Whisper large-v3-turbo-gguf — это GGUF-версия модели Whisper large-v3-turbo, разработанной OpenAI и представленной в экосистеме Hugging Face. Модель предназначена для автоматического распознавания речи и перевода речи в текст, включая работу в режиме zero-shot. Она обучалась на более чем 5 млн часов размеченных аудиоданных и поддерживает широкий набор языков, в том числе русский, английский, китайский, немецкий, испанский, французский, японский и многие другие. Модель является дообученной и сокращённой версией Whisper large-v3: число слоёв декодера уменьшено с 32 до 4. Благодаря этому она работает значительно быстрее исходной large-v3, хотя может немного уступать ей по качеству. Поддерживаются автоматическое определение языка, транскрибация с сохранением языка исходной речи, перевод речи на английский, а также временные метки на уровне предложений и слов. README не указывает размер модели, точную архитектуру GGUF-квантизации или максимальную длину контекста. Модель подходит для транскрибации аудиофайлов, пакетной обработки записей и приложений, которым важны скорость и мультиязычность. Ограничениями являются возможное небольшое снижение качества по сравнению с Whisper large-v3 и отсутствие в карточке подробностей о конкретной GGUF-квантизации и требованиях к ресурсам. Лицензия — MIT.

Whisper-Medium-MLA — мультиязычная модель распознавания речи, созданная на основе OpenAI Whisper Medium. Разработчик преобразовал декодерное self-attention из MHA в MLA и дообучил модель для восстановления качества на 11 языках корпуса Whispered. В модели 455,8 млн параметров; она принимает аудио и выдаёт текст. По данным карточки, преобразование сокращает KV-кэш декодера на 62,5%, особенно полезно при длинной генерации и одновременной обработке нескольких потоков. Модель предназначена для транскрибации речи, в том числе записей с потребительских микрофонов и речи с фоновым шумом. В README приведены оценки на CommonVoice-17 и FLEURS для английского, немецкого, испанского, французского, русского, турецкого, валлийского, арабского, грузинского, тайского и китайского языков. Качество зависит от языка: для грузинского автор отмечает очень высокий WER и ограничение ёмкости модели. Для загрузки требуются transformers версии 4.46.x и trust_remote_code=True из-за пользовательских модулей MLA; модель не поддерживается whisper.cpp, faster-whisper и CTranslate2. Сжатие касается KV-кэша декодерного self-attention, а не памяти энкодера и cross-attention, поэтому выигрыш в общей памяти при одном потоке может быть небольшим. Лицензия — Apache-2.0.