II.8Инженерия данных и аналитика

prithivida/Splade_PP_en_v2 — независимая реализация модели SPLADE++ для поиска по текстовым документам, разработанная Donkey Stereotype. Это модель-энкодер на базе BERT с 136,7 млн параметров, формирующая разреженные представления текста через MLM-голову: она расширяет текст контекстуальными токенами и помогает находить документы при несовпадении формулировок запроса и текста. Модель предназначена для кодирования документов в поисковых и retrieval-системах; для запросов автор указывает на отдельную модель. В README описаны настройки для индустриального поиска: ограничение длины документов 128 токенами, оптимизация разреженности и ориентир на баланс качества поиска, задержки и размера индекса. Модель обучалась с использованием MS MARCO; заявлены показатели MRR@10 и времени retrieval, но они зависят от набора данных и конфигурации системы. Поддерживается английский язык, контекст — до 512 токенов. Доступны форматы PyTorch и ONNX. Для применения модель выдаёт признаки и разреженные представления текста, которые можно индексировать и использовать для поиска документов и оценки сходства предложений. Лицензия — Apache-2.0. Ограничения BERT и конкретного дообучения сохраняются; для пользовательских доменов качество следует проверять отдельно.

Карточка модели seerware/Splade_PP_en_v2 на Hugging Face совпадает с карточкой prithivida/Splade_PP_en_v2, поэтому описание составлено по ней. prithivida/Splade_PP_en_v2 — независимая реализация модели SPLADE++ для поиска по текстовым документам, разработанная Donkey Stereotype. Это модель-энкодер на базе BERT с 136,7 млн параметров, формирующая разреженные представления текста через MLM-голову: она расширяет текст контекстуальными токенами и помогает находить документы при несовпадении формулировок запроса и текста. Модель предназначена для кодирования документов в поисковых и retrieval-системах; для запросов автор указывает на отдельную модель. В README описаны настройки для индустриального поиска: ограничение длины документов 128 токенами, оптимизация разреженности и ориентир на баланс качества поиска, задержки и размера индекса. Модель обучалась с использованием MS MARCO; заявлены показатели MRR@10 и времени retrieval, но они зависят от набора данных и конфигурации системы. Поддерживается английский язык, контекст — до 512 токенов. Доступны форматы PyTorch и ONNX. Для применения модель выдаёт признаки и разреженные представления текста, которые можно индексировать и использовать для поиска документов и оценки сходства предложений. Лицензия — Apache-2.0. Ограничения BERT и конкретного дообучения сохраняются; для пользовательских доменов качество следует проверять отдельно.

ctaguchi/ssc-bew-mms-model — дообученная модель распознавания речи на базе facebook/mms-1b-all. Это модель wav2vec2 с архитектурой Wav2Vec2ForCTC, примерно 1,3 млрд параметров, принимающая аудио и выдающая текст. Базовая модель поддерживает более тысячи языков, однако язык и область применения именно этого дообучения не указаны. В README приведены результаты на тестовой выборке: loss 0,7747, CER 0,2038 и WER 0,6111. Оценки относятся к неизвестному набору данных, поэтому их недостаточно для вывода о качестве на других данных. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

NVIDIA stt_ar_fastconformer_hybrid_large_pcd_v1.0 — крупная модель автоматического распознавания арабской речи на архитектуре FastConformer. Она принимает монофонический WAV-аудиосигнал с частотой 16 кГц и возвращает текст на арабском языке с диакритическими знаками и поддержкой базовой пунктуации. Размер модели — около 115 млн параметров; обучение использует гибридные декодеры Transducer (RNNT) и CTC, токенизатор SentencePiece с размером словаря 1024. Модель обучена NVIDIA с использованием NeMo на составном наборе примерно из 1100 часов арабской речи. Модель подходит для преобразования записей и речевых файлов в арабскую текстовую расшифровку. Она работает без потоковой обработки; для нормализации результата может потребоваться обратная текстовая нормализация. Точность зависит от шума, акцента, типа речи и контекста; качество может снижаться на диалектной речи и технических терминах, а дословная транскрипция и пунктуация не гарантируются. Модель не предназначена для критически важных приложений. Лицензия — CC BY 4.0; карточка сообщает о возможности коммерческого и некоммерческого использования.

Это преобразованный чекпойнт текстового энкодера T5Gemma 2, опубликованный jadanovitch на основе google/t5gemma-2-1b-1b для запуска в vLLM. Веса энкодера перенесены без изменений в формат Gemma3ForCausalLM; модель содержит 26 слоёв, размер скрытого состояния 1152 и около 1 млрд параметров. Используются веса и активации BF16, двунаправленное внимание и контекст до 32 768 токенов. Модель предназначена для получения текстовых представлений, поиска, ранжирования и экспериментов с текстовыми энкодерами. Хотя её можно загрузить через интерфейс генерации vLLM, она не обучалась как самостоятельная авторегрессионная языковая модель и не предназначена для обычного продолжения текста. Применяются условия лицензии Gemma.

Это производная версия google/t5gemma-2-270m-270m, подготовленная PhatcatDK: из мультимодальной модели T5Gemma 2 на базе Gemma 3 выделен только энкодер вместе с компонентами обработки изображений. Репозиторий содержит веса в формате safetensors; для загрузки в README указан класс T5Gemma2Model и библиотека Transformers. Модель предназначена для извлечения признаков из входных данных. Удаление декодера уменьшает потребление видеопамяти примерно на 13% по сравнению с исходной seq2seq-моделью. Лицензия — Gemma Terms of Use. Данные не сообщают длину контекста и конкретный перечень поддерживаемых языков.

TinyCLIP ViT-39M/16 Text-19M — компактная модель семейства CLIP, опубликованная авторами метода TinyCLIP для сопоставления изображений и текста. Она получена дистилляцией крупной предварительно обученной модели с применением сопоставления межмодальных сходств и наследования весов; вариант обучен на YFCC-15M. Визуальная часть использует ViT-39M/16, текстовая — Text-19M. Модель предназначена для классификации изображений по текстовым описаниям без дополнительного обучения: можно сравнивать изображение с набором текстовых меток и выбирать наиболее подходящую. В карточке для этого варианта указана точность ImageNet top-1 63,5% и пропускная способность 1 469 пар в секунду; авторы позиционируют TinyCLIP как компромисс между скоростью и точностью для компактных CLIP-моделей. Модель принимает изображения и текстовые описания, а для классификации вычисляет их межмодальное соответствие. Язык текстовой части и длина контекста в предоставленных данных не описаны. Репозиторий использует PyTorch и safetensors. Лицензия — MIT.

trocr-barbados-fold4 — модель MusaNyaks, дообученная на базе microsoft/trocr-base-handwritten. Она использует архитектуру vision-encoder-decoder и предназначена для распознавания рукописного текста на изображениях, в частности для обработки отдельных строк. Модель принимает изображение и выдаёт текст; формат весов — safetensors, библиотека — Transformers. В README указана оценка Loss 0.8874 на наборе оценки, но сведения о датасете и подробные результаты отсутствуют. Модель распространяется по лицензии MIT. Качество на других данных и ограничения распознавания не описаны.

Это модель извлечения признаков изображений: визуальный энкодер CLIP на основе ViT-Base с патчами 32×32 и входным разрешением 224 пикселя. Весá опубликованы в библиотеке timm и обучены на наборе LAION-2B. Репозиторий содержит только энкодер изображений, поэтому модель формирует визуальные признаки для дальнейшего использования в поиске, сопоставлении изображений и других задачах компьютерного зрения. Модель принимает изображения и выдаёт векторные представления. Она не включает текстовый энкодер CLIP и сама по себе не генерирует описания или ответы на вопросы об изображениях. Лицензия — Apache-2.0.

Это визуальный энкодер CLIP из библиотеки timm: модель ViT-Huge с патчами 14×14, входным размером изображения 224 пикселя и весами, обученными на LAION-2B. Репозиторий содержит только энкодер изображений, а не полный CLIP с текстовым энкодером. Модель извлекает признаки изображений для построения эмбеддингов и последующего использования в поиске по изображениям, кластеризации или других задачах компьютерного зрения. Для сравнения изображений с текстом потребуется отдельный совместимый текстовый энкодер. Весовые файлы доступны в форматах PyTorch и safetensors по лицензии Apache-2.0.

vit_large_patch16_siglip_512.v2_webli — визуальный энкодер SigLIP 2 на архитектуре ViT-Large с патчами 16 пикселей, предназначенный для библиотеки timm. Он соответствует только визуальной башне модели SigLIP 2 и обучен на наборе данных WebLI. Модель преобразует изображения в признаки и подходит для извлечения визуальных представлений, которые можно использовать в системах поиска и анализа изображений. Репозиторий содержит веса PyTorch в формате Safetensors. Лицензия — Apache-2.0. Это только энкодер изображений, поэтому он сам по себе не принимает текст и не генерирует текстовые описания. Карточка не приводит конкретные результаты оценки качества или сведения об ограничениях сверх этого.

saribalgar/wav2vec2-base-timit-ms — дообученная модель распознавания речи на архитектуре Wav2Vec2ForCTC, основанная на facebook/wav2vec2-base. Она принимает аудио и преобразует речь в текст; карточка сообщает метрики на оценочной выборке: loss 0,7589 и WER 0,3722. Модель содержит 113,3 млн параметров и опубликована в формате PyTorch. Модель распространяется по лицензии Apache-2.0. В README набор данных назван None, а описание сценариев применения и ограничений отсутствует, поэтому область обучения и поддерживаемые языки по доступным данным определить нельзя.

wav2vec2-large-xls-r-300m-spanish-small — модель автоматического распознавания речи на основе архитектуры Wav2Vec2ForCTC, дообученная glob-asr на датасете Common Voice от базовой модели jhonparra18/wav2vec2-large-xls-r-300m-spanish-custom. Модель принимает аудио и преобразует речь в текст; она предназначена для распознавания испанской речи. В репозитории указано 402,7 млн параметров. На оценочной выборке модель достигла loss 0,3596 и WER 0,2105. Доступны веса в формате PyTorch. Лицензия и подробные ограничения в предоставленных данных не указаны.

theainerd разработал эту модель, дообучив facebook/wav2vec2-large-xlsr-53 для автоматического распознавания речи на хинди. Это модель семейства wav2vec 2.0 с архитектурой Wav2Vec2ForCTC и примерно 402,7 млн параметров; она принимает аудио и выдаёт распознанный текст. Для входной речи требуется частота дискретизации 16 кГц. Модель предназначена для распознавания хинди, в том числе в условиях низких ресурсов и переключения между языками; в README приведён результат оценки 72,62% на тестовых данных Common Voice для хинди, но метрика не уточнена. Базовая модель предварительно обучена на речи 53 языков, однако это дообучение ориентировано на хинди. Репозиторий содержит веса PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

Это конверсия модели Wespeaker ResNet34-LM в формат GGUF/GGML для использования как экстрактора эмбеддингов говорящих в диаризаторе CrispASR. Модель принимает аудио, вычисляет 80-мерные Kaldi fbank-признаки и выдаёт 256-мерный вектор для сравнения голосов. В основе — ResNet34 с TSTP-пулингом и линейным слоем; число параметров после удаления обучающей головы составляет около 6,6 млн. Репозиторий содержит вариант F32 и рекомендуемый вариант с F32-свёртками и F16-линейным слоем. Модель предназначена для извлечения признаков голоса, распознавания и сопоставления говорящих, в том числе как компонент диаризации аудиозаписей. Проверка конверсии показывает близкое совпадение эмбеддингов с исходной реализацией PyTorch. Однако совпадение с эталоном не означает высокой точности диаризации: в приведённой оценке на VoxConverse DER составил 33,1%, а число говорящих было определено точно в 18 из 40 файлов; результат зависит и от сегментации речи. Лицензия — CC BY 4.0, как у исходной модели.

DrishtiSharma/whisper-large-v2-marathi — дообученная версия Whisper Large V2, созданная на основе openai/whisper-large-v2 на наборе Common Voice 11.0. Это плотная модель архитектуры Whisper с примерно 905,2 млн параметров, предназначенная для автоматического распознавания речи на маратхи и преобразования аудио в текст. В карточке приведён результат оценки на тестовой выборке: WER 13,644 и loss 0,1975. Модель принимает аудио и выдаёт текст. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Оценка приведена для указанного набора данных, поэтому она не гарантирует такое же качество на других типах записей, акцентах или условиях записи.

Модель juancopi81/whisper-medium-es-train-valid — версия Whisper Medium, дообученная разработчиком juancopi81 на наборе Common Voice 11.0 для автоматического распознавания речи. Она принимает аудио и генерирует текст; карточка сообщает WER 5,9456 на тестовой выборке и WER 7,02 на google/fleurs. Модель содержит 455,8 млн параметров и представлена в форматах PyTorch и Safetensors. Модель подходит для транскрибирования испанской речи и оценки систем распознавания на речевых наборах данных. Лицензия — Apache-2.0. Карточка не описывает ограничения применимости и подробные условия оценки качества, поэтому приведённые метрики относятся только к указанным тестовым наборам.

Модель dianavdavidson/whisper-medium_vaani_62419_ratio_alldata_lr_1e-4_lgid_None_epochs_100_FT — дообученная версия мультиязычной модели Whisper medium от OpenAI для распознавания речи и преобразования её в текст. Она содержит 455,8 млн параметров, построена на архитектуре WhisperForConditionalGeneration и рассчитана на аудиовход; для загрузки весов используется формат safetensors и библиотека Transformers. В README приведены результаты оценки: loss 0,6258 и Global WER 13,6881, однако датасет и условия оценки не описаны, поэтому эти показатели не позволяют судить о качестве на конкретных языках и сценариях. Модель распространяется по лицензии Apache-2.0. README не уточняет специализацию дообучения, поддерживаемые языки этой версии или практические ограничения, поэтому её пригодность для конкретной предметной области следует оценивать на собственных аудиоданных.

CLEAR Global совместно с Makerere University Centre for Artificial Intelligence and Data Science дообучили мультиязычную модель распознавания речи Whisper Small на одобренной части набора TWB Voice 1.0 для хауса. Модель содержит 153,1 млн параметров, принимает аудио и выдаёт текстовую транскрипцию; в метаданных указана библиотека Transformers и формат весов safetensors. Модель предназначена для транскрибирования речи на хауса. На внутренней тестовой выборке TWB Voice 1.0 указаны WER 2,23% и CER 3,11%; тестовые дикторы не пересекались с обучающей и валидационной выборками. Также проводилась оценка на Common Voice v17 и Naija Voices, но её результаты не приведены. Модель распространяется по лицензии CC BY-SA 4.0.

Whisper Small Hi — модель распознавания речи, созданная Sanchit Gandhi дообучением openai/whisper-small на наборе Common Voice 11.0. Она предназначена для преобразования аудиозаписей на хинди в текст; архитектура — Whisper с примерно 153,1 млн параметров. В метаданных указаны реализации PyTorch, TensorFlow и формат safetensors, а лицензия — Apache-2.0. На тестовой выборке модели указаны loss 0,4519 и WER 32,0113. Эти результаты относятся к оценке на Common Voice 11.0 и не гарантируют такое же качество на других источниках аудио. Карточка не приводит сведения о длине контекста и подробных ограничениях применения.

Hhsjsnns/whisper-small-hinglish — дообученная версия Whisper Small от OpenAI для автоматического распознавания речи. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и принимает аудио, выдавая текстовую транскрипцию. В метаданных указана поддержка хинди и английского языков; модель дообучена на Common Voice 13.0. Модель подходит для транскрибирования речи на хинди и английском, в том числе смешанной хинглиш-речи. Опубликована в формате safetensors для Transformers и распространяется по лицензии Apache-2.0. README не содержит подробностей об оценке качества и специфических ограничениях модели.

Sekiraw/whisper-small-hyper-tuned-v2 — дообученная Sekiraw модель распознавания речи на основе openai/whisper-small. Она принимает аудио и предназначена для преобразования речи в текст; карточка сообщает о дообучении на неизвестном наборе данных и приводит результаты оценки: loss 0,2138 и WER 0,3859. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 153,1 млн параметров и опубликована в формате safetensors для Transformers. Карточка не описывает целевые языки, набор данных или специальные сценарии применения, поэтому качество распознавания в конкретных условиях по указанным оценкам определить нельзя. Лицензия — Apache-2.0.

Zamba2-7B — базовая языковая модель от Zyphra для генерации текста и кода. Она сочетает слои Mamba2 и общие трансформерные блоки с механизмом внимания; LoRA-проекции помогают этим блокам специализироваться на разных этапах сети. Модель обучена на 2 трлн токенов текста и кода, а затем дополнительно обучена на смеси примерно из 100 млрд высококачественных токенов. Для токенизации используется токенизатор Mistral v0.1. Модель рассчитана на общие сценарии генерации и продолжения текста, включая код. Разработчик заявляет о низкой задержке генерации и меньшем потреблении памяти по сравнению с сопоставимыми трансформерными моделями. Это предварительно обученная базовая модель, а не чат-модель: качество следования инструкциям не гарантируется, встроенной модерации нет, и возможна генерация токсичного или вредоносного текста. Реализация для Hugging Face обозначена как временная; для оптимальной производительности требуются совместимые версии Transformers и ядра Mamba2. Лицензия — Apache-2.0.

ALBERT Large v2 — англоязычная предварительно обученная модель семейства ALBERT, представленная авторами ALBERT и опубликованная на Hugging Face. Она обучена на BookCorpus и англоязычной Википедии с помощью маскированного языкового моделирования и предсказания порядка сегментов текста. Модель предназначена для заполнения пропусков в тексте и получения представлений для последующей настройки на задачи классификации последовательностей и токенов, а также ответа на вопросы. Архитектура — Transformer с 24 повторно используемыми слоями, 1024-мерным скрытым представлением и 16 головами внимания. Слои разделяют веса, что уменьшает объём параметров и памяти; в метаданных указано 433,4 млн параметров. Максимальная длина контекста — 512 токенов. Модель без учёта регистра и обрабатывает английский текст. Она не предназначена для свободной генерации текста: для этого в README рекомендуются авторегрессионные модели. Предсказания могут отражать смещения обучающих данных. Лицензия — Apache-2.0.

bekko-embedding-v1-a8m-pt — предварительно обученная плотная модель эмбеддингов от hotchpotch на архитектуре mmBERT в стиле ModernBERT: 4 слоя и размер скрытого представления 384. Она основана на hotchpotch/mmBERT-L4H384-pruned, использует многоязычные текстовые пары, обучение Matryoshka и обучение с учётом квантования; контекст — до 8192 токенов, размер — 106 млн параметров. Модель предназначена как отправная точка для дополнительного обучения под конкретную задачу: поиск по сходству, классификацию, ранжирование или другой прикладной сценарий, а также для воспроизведения и адаптации конвейера обучения bekko. Она не прошла финальную supervised-настройку для поиска и не предназначена для непосредственного использования как универсальная модель эмбеддингов или поиска. Лицензия — MIT.

boltuix/bert-large — англоязычная модель BoltUIX на архитектуре BERT, представленная как вариант для задач понимания текста. Это дообученная версия google/bert-base-uncased с 117,8 млн параметров; модель использует двунаправленный трансформер, WordPiece и контекст до 512 токенов. В метаданных указаны класс BertForMaskedLM, формат safetensors и задача fill-mask; карточка также описывает предобучение с целями masked language modeling и next sentence prediction на BookCorpus и англоязычной Wikipedia. Модель можно применять для предсказания пропущенных слов, а после дополнительной настройки — для классификации последовательностей и токенов, анализа тональности, распознавания именованных сущностей, ответов на вопросы и вывода о логических связях между предложениями. Карточка сообщает о сильных результатах на GLUE, но не приводит численных метрик, поэтому сравнить качество по конкретным показателям нельзя. Модель рассчитана на английский язык и не предназначена для генерации текста; размер чекпойнта около 365 МБ требует заметных вычислительных ресурсов и ограничивает использование на маломощных устройствах. Обучающие данные могут содержать социальные предубеждения. Лицензия — MIT.

yanekyuk/bert-uncased-keyword-extractor — модель на базе BERT, дообученная для извлечения ключевых слов из текста. Она выполняет токенную классификацию: каждому токену присваивается метка, позволяющая выделять ключевые слова. Модель содержит 136,7 млн параметров, принимает текст длиной до 512 токенов и доступна в формате PyTorch. Модель рассчитана на англоязычный текст. Её можно применять для автоматического выделения ключевых слов в документах и фрагментах текста. В README приведены результаты оценки: precision 0,8547, recall 0,8825, accuracy 0,9741 и F1 0,8684; обучающий датасет не описан. Модель распространяется по лицензии Apache-2.0. Качество на других типах текстов и языках не подтверждено; из-за отсутствия сведений о датасете и предназначенных сценариях следует проверять результаты на собственных данных.

PeytonT/candidate-row-reranker — дообученная модель-классификатор на базе sentence-transformers/all-MiniLM-L6-v2, разработанная как компонент поискового стека Repository Library. Она оценивает строки-кандидаты с доказательствами, помогая принять или отклонить их при поиске и ранжировании материалов научных статей и репозиториев. Модель построена на энкодере BERT и имеет около 25,9 млн параметров; принимает текстовые данные и выдаёт оценку классификации. Контекст ограничен 512 токенами. Модель рассчитана на применение внутри целевого поискового конвейера, в частности для фильтрации и ранжирования найденных свидетельств. В карточке заявлена метрика accuracy, но отдельный отчёт с результатами бенчмарка не приведён. Обучающие данные включают выгрузки графа репозиториев и фрагментов кода из конвейера Repository Library. Перед внедрением в другой процесс результаты следует проверить на его данных. Лицензия в предоставленных источниках не указана.

laion/clap-htsat-unfused — модель CLAP (Contrastive Language-Audio Pretraining), опубликованная LAION. Она сопоставляет аудио с текстовыми описаниями и предназначена для извлечения аудио- и текстовых признаков, поиска аудио по тексту и классификации звуков без специального обучения на заданных классах. Модель использует контрастивное мультимодальное обучение на парах аудио и текста; в репозитории указаны архитектура ClapModel, 132,1 млн параметров и формат PyTorch. Модель принимает аудио и текст, а выдаёт векторы признаков, пригодные для сопоставления и оценки соответствия. В README описаны поиск аудио по тексту и классификация звуков по кандидатным текстовым меткам. Для прикладного использования доступна через Transformers. Репозиторий распространяется по лицензии Apache-2.0.

Shuu12121/CodeSearch-ModernBERT-Owl — модель Sentence Transformers, дообученная автором на базе Shuu12121/CodeModernBERT-Owl для поиска кода. Она сопоставляет фрагменты кода с документацией по смысловой близости и формирует эмбеддинги размерностью 768, которые можно сравнивать косинусной мерой. Модель построена на архитектуре ModernBERT, содержит около 151,6 млн параметров и принимает последовательности длиной до 2048 токенов. Модель предназначена для семантического поиска по репозиториям и ранжирования документации или кода по запросу. В README приведён результат 76,89 на CodeSearchNet; он относится к указанной в карточке оценке, а сравнения с другими моделями в README не полностью согласуются с приведённой таблицей. Обучение включает наборы CodeSearchNet, Java и Rust code search, а также CodeXGlue. Лицензия — Apache-2.0.