I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельwkcn/TinyCLIP-ViT-61M-32-Text-29M-LAION400M — компактная модель семейства CLIP, основанная на совместном представлении изображений и текста. Она создана в рамках работы TinyCLIP, посвящённой дистилляции крупных моделей CLIP методом имитации близости и наследования весов. Конкретная конфигурация использует визуальный энкодер ViT на 61 млн параметров и текстовый энкодер на 29 млн параметров; модель предобучена на LAION-400M. Модель предназначена для классификации изображений по текстовым описаниям без отдельного дообучения на целевых классах: пользователь передаёт изображение и варианты подписей, а модель оценивает их соответствие. Это подходит для категоризации изображений по заданным меткам и поиска подходящей подписи. В README TinyCLIP описан как способ получить более компактные и быстрые модели с конкурентным качеством, однако приведённые показатели относятся к другим конфигурациям, поэтому их нельзя напрямую переносить на этот чекпойнт. Лицензия — MIT.
Модель CLEAR-Global — дообученная на наборе Yoruba NaijaVoices объёмом 500 часов версия facebook/w2v-bert-2.0 для автоматического распознавания речи. Она использует архитектуру Wav2Vec2-BERT с классом Wav2Vec2BertForCTC и содержит около 402,7 млн параметров. Модель принимает аудио и выдаёт распознанный текст на йоруба; библиотека для работы с ней — Transformers. В карточке приведены результаты оценки: WER 0,2869, CER 0,1773 и loss 0,3063. Лицензия модели — MIT. Подробности о составе обучающих данных, условиях записи и ограничениях применения в карточке не раскрыты.
Модель Finnish-NLP/wav2vec2-large-uralic-voxpopuli-v2-finnish — акустическая модель для распознавания финской речи, разработанная Finnish-NLP как дообученная версия facebook/wav2vec2-large-uralic-voxpopuli-v2. Она использует архитектуру Wav2Vec2 с CTC-декодированием и содержит около 402,7 млн параметров. Обучение проводилось на 276,7 часах размеченной финской речи; при декодировании также можно использовать включённую в репозиторий языковую модель KenLM. Модель предназначена для преобразования финской речи в текст, в том числе для расшифровки записей и голосовых материалов. Наиболее подходящими считаются аудиофрагменты длительностью до примерно 20 секунд. В оценках на Common Voice 7.0 и 9.0 показаны результаты WER около 4,1% с KenLM и около 9,7–9,8% без него. Обучающие данные в основном происходят из записей заседаний парламента Финляндии, поэтому распознавание разговорной речи, диалектов, детских и женских голосов может быть менее надёжным. Языковая модель KenLM также ориентирована преимущественно на формальный финский. Модель распространяется по лицензии Apache-2.0.
nguyenvulebinh/wav2vec2-large-vi-vlsp2020 — модель распознавания вьетнамской речи на основе архитектуры wav2vec2, разработанная Nguyen Vu Lebinh. Модель с 402,8 млн параметров предварительно обучена на 13 тысячах часов неразмеченной вьетнамской речи с YouTube и дообучена на 250 часах размеченных данных набора VLSP ASR 2020 с частотой дискретизации 16 кГц. Модель преобразует аудиозаписи на вьетнамском языке в текст и предназначена для автоматического распознавания речи. На тестовом наборе VLSP T1 для большой версии указана частота ошибок слов WER 6,90 без языковой модели и 5,32 с языковой моделью 5-грамм. В репозитории представлены веса PyTorch; лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не коммерческое использование.
Модель scasutt/wav2vec2-large-xlsr-52_Swiss_German — версия wav2vec 2.0 XLSR, дообученная для распознавания швейцарских диалектов немецкого языка на датасете Swissdial. Она преобразует аудиозапись речи в текст и предназначена для сценариев автоматической транскрипции. Архитектура — Wav2Vec2ForCTC, размер — 402,7 млн параметров; модель доступна в формате PyTorch и рассчитана на входное аудио. В карточке приведён результат на тестовой выборке: WER 0,2909 и loss 0,2811. Модель опубликована под лицензией Apache 2.0. Карточка не описывает подробно условия записи и покрытия диалектов, поэтому качество на иных вариантах речи и в других акустических условиях по этим данным оценить нельзя.
Wav2Vec2-Large-XLSR-53-EU — модель автоматического распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 командой enterprise-explorers на баскском языке. Она принимает аудиозаписи речи с частотой дискретизации 16 кГц и преобразует их в текст; обучение проводилось на данных Common Voice. Модель построена на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров. В README приведён результат оценки 15,34% на тестовой части Common Voice для баскского языка, но метрика не названа. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.
fathyy разработал wav2vec2-large-xlsr-53-fourth-train как дообученную версию fathyy/wav2vec2-large-xlsr-53-third-train для автоматического распознавания речи. Модель построена на архитектуре Wav2Vec2ForCTC и содержит около 402,7 млн параметров; для работы используется библиотека Transformers. В карточке приведены результаты оценки: loss 1,3589 и WER 0,7930. Датасет обучения и целевые языки не определены в доступных сведениях, поэтому применимость к конкретному языку или сценарию подтвердить нельзя. Модель распространяется под лицензией Apache-2.0.
AndrewMcDowell/wav2vec2-xls-r-300m-arabic — дообученная модель распознавания арабской речи, созданная на основе facebook/wav2vec2-xls-r-300m и обученная на арабской части набора Mozilla Common Voice 7.0. Она использует архитектуру Wav2Vec2ForCTC и принимает аудио, выдавая распознанный текст на арабском языке. В оценке на тестовом наборе указаны значение потерь 0,4502 и WER 0,4783. Модель подходит для преобразования арабской речи в текст. Опубликована в формате PyTorch под лицензией Apache-2.0.
techiaith/wav2vec2-xlsr-53-ft-cy-en — акустическая модель распознавания валлийской и английской речи, разработанная Techiaith. Она дообучена на основе facebook/wav2vec2-large-xlsr-53 с использованием спонтанной речи из корпуса Banc Trawsgrifiadau Bangor и валлийских и английских данных Common Voice 16.1. Модель построена на архитектуре Wav2Vec2ForCTC и содержит 402,7 млн параметров. Она принимает аудио и преобразует речь в текст; основное назначение — транскрибация валлийской и английской речи. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.
WAXALamh_asr-w2v-bert-2.0 — модель автоматического распознавания речи, дообученная на основе facebook/w2v-bert-2.0. Она использует архитектуру Wav2Vec2BertForCTC и принимает аудио, чтобы преобразовывать речь в текст. Размер модели — около 402,9 млн параметров; для работы с весами используется библиотека Transformers, файлы представлены в формате safetensors. В карточке приведены метрики оценки: loss 3,8336 и CER 0,3028. Датасет, языки и сценарии обучения не описаны, поэтому применимость к конкретному языку или акустическим условиям по этим данным определить нельзя. Модель распространяется по лицензии MIT.
onnx-community/whisper-base.en_timestamped — модель на базе openai/whisper-base.en, подготовленная в формате ONNX для совместимости с библиотекой Transformers.js. Разработчиком исходной модели является OpenAI, а данный репозиторий предоставляет её ONNX-веса. Модель предназначена для использования в приложениях, поддерживающих Transformers.js, включая веб-сценарии и среды, где требуется запуск моделей с ONNX-весами. README не содержит подробных сведений о задачах, архитектуре, размере, языках, модальностях, длине контекста или точных возможностях временной разметки, поэтому эти характеристики нельзя достоверно уточнить по имеющимся данным. Ключевое преимущество — адаптация весов к ONNX и возможность интеграции с Transformers.js. Решение является временным форматом распространения до более широкого внедрения WebML. Лицензия в README не указана.
Whisper Hinglish Preview — модель распознавания речи на основе Whisper large-v3, разработанная Trelis и специализированная для хинглиша: речи с переключением между хинди и английским. Она также предназначена для транскрибации преимущественно хинди и английской речи; архитектура — WhisperForConditionalGeneration, размер — 905,3 млн параметров. Модель принимает аудио и выдаёт текст. Для заявленного качества автор рекомендует явно задавать язык распознавания в стандартном интерфейсе Whisper. Внутренние оценки автора показывают улучшение относительно исходных Whisper large-v3 и Vaani на ряде тестов хинглиша и хинди, но не лидерство на всех наборах; результаты получены по собственному протоколу нормализации и сопоставления. Это исследовательская предварительная версия, и веса или результаты могут измениться. Модель распространяется по лицензии Apache-2.0.
WhisperKit Pro — набор моделей распознавания речи, подготовленных Argmax для работы с библиотекой WhisperKit и SDK Argmax. Репозиторий содержит варианты OpenAI Whisper, включая base, small и large-v3, а также Distil-Whisper large-v3; модели представлены в формате Core ML для локального запуска на устройствах Apple. Они преобразуют аудио в текст и подходят для расшифровки файлов и потокового распознавания речи. Возможности зависят от выбранного варианта: в репозитории есть англоязычные и многоязычные модели Whisper. Разработчик указывает лицензию argmax-fmod-license; доступ к Pro-возможностям SDK требует настройки Argmax SDK, а загрузка моделей через Hugging Face может требовать токен доступа. Репозиторий ориентирован на распознавание речи, а не на генерацию аудио.
Модель gcoli/whisper-large-v3-turbo-swiss-german-mit — дообученная на швейцарско-немецких диалектах версия Whisper Large-v3-Turbo от OpenAI. Она преобразует аудиозаписи на швейцарском немецком в текст на стандартном немецком. Модель содержит около 905,2 млн параметров; адаптер LoRA обучен на материалах FHNW/i4ds с лицензией MIT и объединён с весами. Доступны веса safetensors в формате fp16 и вариант CTranslate2 float16; модель рассчитана на запуск через Transformers или faster-whisper. На тестовом наборе из 17 диалектов авторы сообщают WER 25,9% и CER 13,4%; результат лучше исходной Whisper Large-v3-Turbo на 2,8 процентного пункта WER при сопоставимой скорости. Модель подходит для транскрибации швейцарской немецкой речи, в том числе длинных записей, хотя авторы советуют отключать перенос контекста между фрагментами при обработке длинного аудио: иначе возможны ошибки и выдуманный текст. Лицензия модели — MIT, в карточке также заявлена коммерческая применимость.
Это дообученная на базе openai/whisper-medium модель распознавания речи, опубликованная пользователем dianavdavidson. Она предназначена для преобразования аудиоречи в текст; название указывает на настройку для хинди и датасет Vaani, однако README не уточняет обучающие данные и сценарии применения. В метаданных указаны архитектура Whisper, библиотека Transformers и формат весов safetensors. В README приведены результаты оценки: Loss 0,4088 и Global WER 29,3511. Эти значения описывают оценку на указанном наборе, но без сведений о методике и данных их нельзя напрямую переносить на другие аудиозаписи. Модель распространяется по лицензии Apache-2.0.
Whisper Medium Urdu — модель распознавания речи, дообученная на основе openai/whisper-medium командой, опубликовавшей репозиторий ihanif/whisper-medium-urdu. Она предназначена для преобразования речи на урду в текст и использует архитектуру Whisper с 455,8 млн параметров. Модель принимает аудио и выдаёт текст; обучение выполнено на урду-части набора Common Voice 11.0 от Mozilla Foundation. На оценочной выборке указаны значение потерь 0,4685 и WER 26,9801. Модель опубликована в форматах PyTorch и safetensors под лицензией Apache-2.0. Карточка не приводит дополнительных сведений об условиях записи, методике оценки или иных ограничениях, поэтому результаты могут не отражать качество на аудио из других источников.
ales/whisper-small-belarusian — модель автоматического распознавания речи, дообученная на основе openai/whisper-small на белорусской части набора Mozilla Common Voice 11.0. Она принимает аудио и генерирует текстовую транскрипцию, в первую очередь для белорусской речи. Архитектура Whisper, около 153,1 млн параметров; веса доступны в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. В README указаны WER 6,3672 на валидационной выборке и 6,79 на тестовой выборке. Эти показатели относятся к оценке на Common Voice и не гарантируют такое же качество для других записей, условий записи или разновидностей белорусской речи. Карточка не описывает дополнительные сценарии применения.
Whisper Small Dv — модель распознавания речи, созданная Sanchit Gandhi путём дообучения мультиязычной openai/whisper-small на наборе Common Voice 13. Она принимает аудио и преобразует речь в текст; модель построена на архитектуре Whisper и содержит 153,1 млн параметров. В оценке на тестовом наборе указаны WER 14,0661 и орфографический WER 63,8972, однако README не уточняет условия и язык этой оценки. Модель подходит для транскрибирования записей речи, в том числе для экспериментов с данными Common Voice. Базовая Whisper также поддерживает распознавание речи и перевод аудио на английский, но карточка этой производной модели подтверждает только задачу распознавания речи. Модель распространяется по лицензии Apache-2.0.
HamoonFm/whisper-small-fa — дообученная версия мультиязычной модели Whisper Small от OpenAI для автоматического распознавания речи. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 153,1 млн параметров и принимает аудио, выдавая текстовую транскрипцию. Суффикс «fa» в названии указывает на ориентацию на персидскую речь, однако README не уточняет языки и данные дообучения. В карточке приведены результаты оценки: loss 0,2648 и WER 0,3085. Модель распространяется в формате safetensors по лицензии Apache-2.0. README не описывает ограничения и рекомендуемые сценарии применения; качество распознавания следует проверять на аудио целевого домена.
Shirali/whisper-small-ISSAI_KSC_335RS_v2 — аудиомодель семейства Whisper с архитектурой WhisperForConditionalGeneration и 153,1 млн параметров. Репозиторий содержит веса PyTorch; модель предназначена для автоматического распознавания речи. В README указано, что модель обучена с нуля, но набор данных обозначен как None, а сведения о назначении, обучающих данных и оценке не приведены. Языки распознавания и качество для конкретных условий записи установить по доступным данным нельзя. Лицензия не указана.
Ivydata/whisper-small-japanese — модель распознавания японской речи, созданная дообучением openai/whisper-small на датасетах Common Voice, JVS и JSUT. Это плотная модель архитектуры Whisper с 153,1 млн параметров, предназначенная для преобразования аудио в текст. Для распознавания входная речь должна быть дискретизирована с частотой 16 кГц. В карточке приведён результат оценки на наборе TEDxJP-10K: Character Error Rate (CER) составляет 23,10%. Модель рассчитана на японский язык. Она распространяется по лицензии Apache-2.0.
seanghay/whisper-small-khmer-v2 — модель распознавания речи, созданная дообучением openai/whisper-small на датасетах OpenSLR (SLR42), Google FLEURS и km-speech-corpus. Она предназначена для транскрибирования аудио на кхмерском языке; в Transformers её используют для преобразования аудиозаписей в текст. Модель содержит 153,1 млн параметров, построена на архитектуре Whisper и распространяется в форматах PyTorch, Flax и Safetensors. В README указаны результаты на оценочном наборе: loss 0,26 и WER 0,6165. WER указывает на заметную долю ошибок распознавания, поэтому результат следует проверять, особенно для шумных записей и сценариев с высокими требованиями к точности. Лицензия — Apache-2.0.
steja/whisper-small-marathi — модель распознавания речи на основе Whisper Small, дообученная автором steja на наборе mozilla-foundation/common_voice_11_0 для маратхи. Она преобразует аудио в текст и предназначена для автоматической транскрипции речи на маратхи. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и распространяется в формате PyTorch по лицензии Apache-2.0. В карточке приведён результат оценки на тестовом наборе: WER 18,5782 и loss 0,6231. Эти показатели относятся к указанному набору данных; карточка не описывает качество на других аудиозаписях и сценариях.
primeline/whisper-tiny-german — компактная модель распознавания немецкой речи, разработанная Florian Zimmermeister на основе Whisper-tiny. Она предназначена для преобразования аудио на немецком языке в текст, в том числе для сценариев с ограниченными ресурсами и развёртывания на периферийных устройствах. Архитектура — WhisperForConditionalGeneration; в метаданных указано 29,4 млн параметров, а README указывает 37,8 млн и размер 73 МБ в формате bfloat16. Репозиторий содержит веса в форматах ONNX и safetensors. Для обучения использовались отфильтрованные данные Common Voice, multilingual LibriSpeech и внутренние данные; текст нормализовали по регистру и пунктуации. Модель выпущена под лицензией Apache-2.0. Разработчик не рекомендует применять её в критически важных сценариях: компактный размер может сопровождаться снижением качества распознавания в отдельных условиях.
Модель wrice/whisper-tiny-grpo-0029b82-cv22-tiny-sft — версия Whisper tiny, дообученная автором репозитория с помощью GRPO и комбинированной награды на основе ошибок слов и символов. Она предназначена для автоматического распознавания речи и преобразования аудиозаписей в текст; обучающие данные взяты из Common Voice для 77 языковых локалей, а язык клипа задавался по локали набора данных. По карточке, лучший общий результат на валидационной выборке по 77 языкам составил WER 0,602 и CER 0,253. Это экспериментальная компактная модель на архитектуре Whisper, доступная в формате safetensors и используемая через Transformers. Лицензия — MIT. Автор характеризует рецепт обучения как proof of concept, а не готовую производственную систему. Результаты зависят от предметной области, акцента, языка и качества аудио; метрики получены на нормализованной выборке Common Voice и не гарантируют аналогичного качества на реальных записях.
duyntnet/Yarn-Llama-2-7b-128k-imatrix-GGUF — набор квантованных GGUF-версий базовой языковой модели Yarn-Llama-2-7b-128k, первоначально разработанной NousResearch. Модель предназначена для генерации и продолжения текста, а также для других сценариев инференса базовой языковой модели. Специальный формат промпта не предусмотрен, поскольку это предварительно обученная, а не диалоговая модель. В основе лежит архитектура Llama 2 с размером около 7 миллиардов параметров и поддержкой контекста до 128 тысяч токенов благодаря технологии YaRN. Модель ориентирована на английский язык и работает с текстовой модальностью. Варианты представлены в формате GGUF и используют imatrix-квантизацию, что может снизить требования к памяти и ускорить локальный запуск по сравнению с полноразмерными весами, однако конкретные уровни квантизации в предоставленных данных не указаны. Сильными сторонами являются большой контекст и возможность локального использования через совместимые инструменты для GGUF. Ограничения включают отсутствие специализированной настройки для диалогов, неизвестные характеристики отдельных квантованных вариантов и отсутствие данных о качестве на конкретных тестах. В карточке указана лицензия «other», но её точные условия не приведены; перед использованием необходимо проверить лицензионные требования исходной модели и данного набора квантований.
hongzoh/Yi-Ko-6B_Open-Platypus — языковая модель, дообученная на наборе инструкций Open-Platypus на основе beomi/Yi-Ko-6B. Она предназначена для генерации текста и ответов на инструкции, включая вопросы и задачи общего характера. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 5,9 млрд параметров; родной размер контекста — 2048 токенов. Модель работает с текстом и опубликована в форматах PyTorch и safetensors. Карточка указывает лицензию Apache-2.0. README не описывает отдельные гарантии качества или подробные ограничения применения.
nhonhoccode/zalo-legal-bge-m3-finetuned — Sentence Transformer, дообученный для создания эмбеддингов предложений и абзацев. Модель основана на XLM-RoBERTa и содержит 658,7 млн параметров; выходные векторы имеют размерность 1024 и нормализуются. В README указан максимум 384 токена на последовательность, а метаданные каталога сообщают о нативном контексте до 8194 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации текста. Название указывает на юридическое направление и базовую модель BGE-M3, однако карточка не приводит подробностей о языках или конкретных юридических сценариях; языки и область применения поэтому не следует считать подтверждёнными. Обучение описано на наборе из 2638 примеров с парами положительных и отрицательных текстов. Для сходства текстов можно использовать косинусную близость эмбеддингов. Репозиторий содержит веса safetensors и рассчитан на библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.
zen-vl-8b-instruct-i1-GGUF — мультимодальная instruction-tuned модель для работы с текстом и изображениями, созданная командой ZenLM на базе zenlm/zen-vl-8b-instruct и квантизированная mradermacher в формате GGUF. Модель предназначена для сценариев image-text-to-text: анализа изображений, ответов на вопросы по визуальному содержимому и выполнения текстовых инструкций с учётом изображений. Модель содержит около 8 миллиардов параметров, поддерживает английский язык и относится к vision-language моделям. В репозитории представлены варианты квантизации от i1-IQ1_S до i1-Q6_K размером примерно от 2,2 до 6,8 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильной стороной является сочетание мультимодальных возможностей и большого выбора компактных GGUF-квантизаций, включая рекомендуемый вариант i1-Q4_K_M и сбалансированный по размеру, скорости и качеству i1-Q4_K_S. Ограничения включают возможное снижение качества у низкобитных вариантов, отсутствие в README сведений о размере контекстного окна, производительности и результатах тестирования, а также необходимость совместимого программного обеспечения и, вероятно, дополнительного vision-проектора. Распространение указано по лицензии Apache-2.0.
Adaptive Sentiment Classifier — модель MemChainAI для классификации английских текстов по тональности на положительные, отрицательные и нейтральные. Она основана на DistilBERT и создана с помощью библиотеки adaptive-classifier; обучение проводилось на примерах из набора SetFit/tweet_sentiment_extraction с применением адаптивного и непрерывного обучения. Модель предназначена для анализа отзывов, сообщений в социальных сетях и пользовательского контента. В карточке особо отмечена обработка технических описаний, вопросов и образовательных текстов как нейтральных. Заявленная точность на тесте составляет 80%; лицензия — MIT. Модель оптимизирована для английского языка и текстов, похожих на твиты, отзывы и вопросы. Качество может снижаться на текстах длиннее 200 символов и при наличии специализированной терминологии; результаты обучения могут отражать смещения исходных данных. Не следует использовать её как единственное основание для важных решений.