I.11Классификация, ранжирование и сопоставление

ReSB2-Bi-Encoder — модель Sentence Transformer, дообученная для поиска семантически связанных законопроектов Бразилии. Она кодирует текст в плотные векторы размерности 768; для сравнения векторов используется косинусное сходство. Архитектура основана на ModernBERT с усреднением токенных представлений. В README указан максимальный размер последовательности 1500 токенов, а метаданные каталога — контекст до 8192 токенов; для практической работы с длинными входами следует учитывать ограничение конфигурации Sentence Transformers. Модель подходит для поиска похожих законопроектов и ранжирования документов по семантической близости в корпусах бразильского законодательства. В README приведена оценка на наборе для семантического сходства: Spearman по косинусному сходству — 0,7286. Данных о лицензии в предоставленных источниках нет, поэтому условия использования определить нельзя.

RM-Gemma-7B — модель вознаграждения, дообученная автором репозитория на базе google/gemma-7b-it для оценки предпочтительности ответов. Она принимает текстовые последовательности и выполняет классификацию, связанную с ранжированием вариантов ответа; её можно использовать как компонент контура обучения с обратной связью от предпочтений и для сравнительной оценки ответов. Модель основана на плотной архитектуре GemmaForSequenceClassification, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Для обучения использована смесь наборов HH-RLHF, SHP, UltraFeedback, Capybara, HelpSteer и Orca, всего около 250 тысяч пар сравнений. Карточка приводит результаты оценки на наборах предпочтений и бенчмарках, но не содержит полного описания формата входа и интерпретации выходных оценок. Репозиторий распространяется в формате Safetensors; сведения о лицензии в доступных данных отсутствуют.

roberta-base-ca-v2-cased-te — модель распознавания текстового следования на каталанском языке, разработанная подразделением Text Mining Unit центра Barcelona Supercomputing Center в рамках Projecte AINA. Она дообучена на базе roberta-base-ca-v2 и принимает пары текстов, чтобы определить, следует ли один текст из другого. Модель построена на архитектуре RoBERTa и содержит 151,8 млн параметров; максимальная длина контекста — 514 токенов. Модель подходит для проверки текстовых гипотез и классификации отношений между предпосылкой и выводом. На тестовой части каталанского набора TE-ca она показала точность 83,14%. Результат зависит от области применения и обучающих данных; модель может хуже обобщать на другие сценарии. Разработчики не оценивали систематически встроенные смещения, а обучающие корпуса RoBERTa собраны из открытых источников и веб-краулинга. Лицензия — Apache-2.0.

Immerwinter/roberta-wechsel-privacy-policy-content-selling — немецкоязычная модель классификации текста на основе RoBERTa, дообученная на базе benjamin/roberta-base-wechsel-german. Она предназначена для анализа текстов политик конфиденциальности и отнесения фрагментов к категории Content, в том числе к теме Selling; в карточке также перечислены категории Audience, Contact, Control, Deletion, LegalBasis, Policy, Processing, Purpose, Retention, Security/Privacy, Sharing, ThirdParty и UserRights. Модель содержит 151,8 млн параметров, принимает текстовые последовательности с контекстом до 514 токенов и выдаёт метки классификации. Доступны веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0.

Sentence Frame Classifier — модель на архитектуре RoBERTa для классификации предложений по медийным фреймам. Она дообучена на основе facebook/roberta-large на корпусе Media Frame Corpus и данных, адаптирующих задачу к онлайн-обсуждениям. Модель относит текст к одной из 10 категорий: экономика, мораль, справедливость и равенство, право и преступность, политика и государственная политика, безопасность и оборона, здоровье и безопасность, культурная идентичность, общественное мнение или прочие темы. Вероятности по всем категориям можно использовать для многометочной классификации. Модель предназначена для анализа журналистских статей, комментариев и публикаций в социальных сетях. В карточке указаны 454,1 млн параметров и контекст до 514 токенов; заявленный Macro F1 составляет 0,66. Поддерживается английский язык. Лицензия — CC BY 4.0.

timm/tf_efficientnetv2_b3.in1k — модель семейства EfficientNetV2 для классификации изображений и извлечения визуальных признаков. Её обучили авторы EfficientNetV2 на ImageNet-1k в TensorFlow, а Ross Wightman перенёс веса в PyTorch; в репозитории доступны веса PyTorch и Safetensors. Модель содержит около 14,4 млн параметров и требует изображения размером 300 × 300 пикселей при тестировании; размер обучения составлял 240 × 240 пикселей. Модель подходит для определения объектов и категорий на изображениях, а также как визуальная основа для извлечения карт признаков и эмбеддингов. Она ориентирована на ImageNet-1k и не описана как специализированная для конкретной области или языка. Лицензия — Apache-2.0. Карточка не приводит численных метрик качества; применение на изображениях существенно отличающихся от ImageNet-1k может потребовать дополнительной адаптации.

vi-law-laya — вьетнамская модель-реранкер для оценки релевантности пары «запрос — фрагмент текста». Она присваивает паре вероятность от 0 до 1, что фрагмент отвечает на запрос, и предназначена для повторной сортировки кандидатов после первичного поиска, в частности статей законодательства. Модель разработана на архитектуре Laya: мультиязычном варианте mmBERT-base с 322 млн параметров и классификационной головой для ответа «да/нет». Максимальная длина входа — 8 192 токена. Модель дообучена на 757 748 парах за одну эпоху с RLCD и soft cross-entropy; после обучения применено масштабирование температуры T=1,42. Карточка приводит результаты оценки на двух наборах для поиска по юридическим текстам на вьетнамском языке и отдельно оценивает качество вероятностных оценок. Для работы указана библиотека laya. Лицензия — Apache-2.0.

Vi-Legal-Bi-Encoder-v2 — модель эмбеддингов предложений и абзацев, опубликованная NghiemAbe и построенная на архитектуре RoBERTa с библиотекой Sentence-Transformers. Она преобразует текст в плотные векторы размерности 768 и предназначена для сравнения семантической близости, поиска и кластеризации. Модель ориентирована на вьетнамские юридические тексты; автор приводит результаты оценки на Dev-Legal-Dataset и сравнивает её с несколькими многоязычными и вьетнамскими моделями.

nam7197/vi-nli-xlm-roberta-base — модель классификации текстовых пар для задачи вывода по естественному языку (NLI): она определяет, следует ли гипотеза из посылки, противоречит ей или не связана с ней. Модель основана на XLM-RoBERTa и содержит 305,2 млн параметров; в метаданных указан класс XLMRobertaForSequenceClassification и контекст до 514 токенов. Модель подходит для классификации пар предложений и оценки отношений между утверждениями. В README приведены метрики precision, recall и F1 для классов entailment, neutral и contradiction. Карточка не сообщает языковую специализацию и лицензию, поэтому конкретные языки и условия использования установить нельзя.

ViTamin-XL-384px — визуальный энкодер семейства ViTamin, разработанный исследователями Университета Джонса Хопкинса и ByteDance и представленный в статье CVPR 2024. Репозиторий содержит веса PyTorch модели ViTaminCLIP, обученной в рамках CLIP-предобучения на DataComp-1B; карточка предлагает загружать модель через transformers.AutoModel. Лицензия — MIT. Модель извлекает признаки изображений и предназначена для использования как визуальный энкодер в задачах компьютерного зрения и мультимодальных системах. В статье приведены результаты для классификации ImageNet, переноса на наборы компьютерного зрения, поиска по изображениям и текста, открытого обнаружения и сегментации объектов, а также визуально-языковых бенчмарков. Карточка сообщает результаты для разрешения 384 пикселя в составе крупных мультимодальных моделей, но не описывает здесь самостоятельный диалоговый интерфейс. Сильная сторона ViTamin — применение как универсального визуального представления с хорошими результатами на широком наборе задач. README не приводит точный размер именно XL-чекпойнта и его собственную длину контекста; показатели в таблицах относятся к экспериментам статьи и не гарантируют такие же результаты при самостоятельном использовании. Для текстовых запросов и генерации ответов требуется соответствующая мультимодальная система.

Модель aalonso-developer/vit-base-patch16-224-in21k-clothing-classifier — дообученная модель классификации изображений на основе Google ViT Base Patch16 224 In21k. Архитектура Vision Transformer содержит около 113,2 млн параметров; модель принимает изображения и относит их к категориям одежды. Репозиторий содержит веса в формате TensorFlow. В README приведены результаты на оценочной выборке: точность обучения 96,86%, точность валидации 79,06%, а точность с учётом трёх наиболее вероятных классов на валидации — 94,37%. Датасет и перечень классов не описаны, поэтому область применения за пределами классификации одежды не установлена. Лицензия — Apache-2.0.

Модель vit_betwixt_patch16_reg4_gap_384.sbb2_e200_in12k_ft_in1k — вариант Vision Transformer для классификации изображений и извлечения визуальных признаков. Её разработал Ross Wightman в библиотеке timm: модель предварительно обучена на ImageNet-12k, затем дообучена на ImageNet-1k. Архитектура использует патчи 16×16, четыре регистрационных токена и глобальное усреднение признаков. Модель рассчитана на изображения размером 384×384 пикселя и содержит около 60,6 млн параметров. Она подходит для присвоения изображениям классов ImageNet, извлечения карт признаков и получения эмбеддингов изображений. В сравнении из карточки указана точность top-1 86,594% и top-5 98,02% на ImageNet-1k. Модель работает с изображениями и выдаёт метки классов либо визуальные признаки. Она предназначена для задач распознавания объектов общего назначения, а не для конкретной прикладной области; качество на данных, отличающихся от ImageNet, может быть ниже. Распространяется по лицензии Apache-2.0.

belfner/vit_small_patch16_lingbot.robbyant — энкодер изображений LingBot-Vision на архитектуре ViT-Small/16, подготовленный авторами статьи и преобразованный для реализации Eva/DINOv3 в библиотеке timm. Модель извлекает признаки изображения; в README также описаны сценарии получения карт признаков, эмбеддингов изображений и классификации. Веса содержат 21,6 млн параметров, а указанный размер изображения — 512 × 512 пикселей. Энкодер дистиллирован из модели-учителя ViT-Giant/16, предварительно обученной на задаче masked-boundary, на корпусе из 161 млн отобранных веб-изображений. Токены расположены в порядке CLS, четыре регистрационных токена, затем патчи. Конфигурация использует усреднение по патчам; режим global_pool='token' воспроизводит представление CLS из исходной модели. README сообщает о совпадении выходов fp32 с эталонной реализацией на размерах 512 × 512 и 384 × 512. Лицензия Apache 2.0. Для работы требуется версия timm с поддержкой LingBot; архитектура на момент карточки ожидала включения в timm.

VOLO D5 448 SAIL IN1K — модель классификации изображений семейства VOLO (Vision Outlooker), разработанная авторами статьи VOLO и обученная на ImageNet-1k с разметкой токенов. Она определяет класс объекта на изображении и может использоваться как визуальная backbone-модель для извлечения признаков. Модель содержит около 295,9 млн параметров, обрабатывает изображения размером 448 × 448 пикселей и требует примерно 315,1 GMAC на проход. Репозиторий предоставляет веса PyTorch и SafeTensors; лицензия — Apache-2.0. Также поддерживается получение эмбеддингов изображений. Модель предназначена для классификации изображений общего назначения по категориям ImageNet-1k и извлечения визуальных признаков. README не уточняет ограничения на типы изображений за пределами обучающего набора; качество на других доменах может отличаться от качества на ImageNet-1k.

Карточка модели MiniMaxAI/VTP-Small-f16d64 на Hugging Face совпадает с карточкой MiniMaxAI/VTP-Large-f16d64, поэтому описание составлено по ней. VTP-Large-f16d64 — крупный визуальный токенизатор, обученный командой MiniMax совместно с исследователями Huazhong University of Science and Technology. Модель реализует подход Visual Tokenizer Pre-training (VTP): совместно оптимизирует контрастивное обучение изображений и текста, самообучение и реконструкцию, чтобы формировать латентные представления изображений с семантической информацией. Модель предназначена для извлечения признаков изображений, классификации без примеров и с линейным пробингом, реконструкции изображений и подготовки латентных представлений для генеративных моделей, включая DiT. В отчёте авторы приводят точность zero-shot-классификации 78,2, rFID 0,36 и ускорение сходимости генерации в 3 раза по сравнению с рассмотренными методами дистилляции. Репозиторий содержит веса в формате safetensors; для использования предлагается библиотека Transformers. Авторы отмечают, что работа ещё продолжается. Для модели указана лицензия other, поэтому условия использования следует проверять в материалах проекта перед внедрением. README описывает визуальные сценарии, но не приводит сведения о поддержке текстового входа в самой модели.

Warden Ship art-domain CLIP — модель, созданная разработчиками Warden Ship на основе openai/clip-vit-base-patch32 и дообученная контрастивно на парах «картина — подпись» из метаданных WikiArt. Она предназначена для поиска изображений по текстовым запросам и классификации картин по стилю и жанру без обучения отдельного классификатора. Модель принимает изображения и текст, сопоставляет их в общем векторном пространстве и выдаёт векторные представления, пригодные для поиска по смыслу. По данным README, точность на отложенном тесте WikiArt составляет 55,3% для 27 классов стилей и 79,8% для 10 жанров; размер проекции — 512 измерений. Модель подходит для семантического поиска по коллекциям картин, извлечения похожих произведений и zero-shot-классификации в художественном домене. Она загружается как стандартная модель CLIP через Transformers и распространяется по лицензии MIT. Векторы этой версии нельзя смешивать по смыслу с векторами базовой CLIP, несмотря на совпадение их размерности. Обучение преимущественно на европейской живописи XIX–XX веков ограничивает качество на других периодах и традициях.

WD SwinV2 Tagger v3 — модель SmilingWolf для автоматической разметки изображений тегами. Она предсказывает рейтинговые, персонажные и общие теги, обучена на изображениях Danbooru и предназначена для автоматической категоризации и поиска изображений по содержимому. Модель основана на архитектуре SwinV2 и совместима с timm; доступны веса в форматах ONNX и safetensors, а ONNX поддерживает пакетную обработку. Для запуска ONNX требуется onnxruntime версии 1.17.0 или новее. Валидация версии 2.0 на наборе автора показала F1 0,4541 при пороге 0,2653. Результаты зависят от порога и распределения тегов; обучение проводилось на отфильтрованной выборке Danbooru, поэтому полноту тегирования на других типах изображений следует проверять отдельно. Лицензия — Apache-2.0.

WikiArt-Style — модель компьютерного зрения, дообученная на базе google/siglip2-base-patch16-224 с архитектурой SiglipForImageClassification. Она классифицирует изображения произведений искусства по 137 категориям художественных стилей, включая импрессионизм, барокко, кубизм и сюрреализм; модель обучена на наборе данных Artificio/WikiArt и предназначена для присвоения стилевых меток изображениям. Её можно применять для разметки коллекций картин, фильтрации и поиска произведений в каталогах, а также в образовательных интерфейсах по истории искусства. Модель принимает изображения и выдаёт категорию стиля. Лицензия — Apache-2.0. README не приводит численных оценок качества; классификатор ограничен заданным набором из 137 классов, в котором есть метка «None».

Модель hezarai/word2vec-skipgram-fa-wikipedia — персидская модель векторных представлений слов, разработанная для библиотеки Hezar. Она обучена алгоритмом Skip-gram на данных персидской Википедии и предназначена для получения эмбеддингов слов, например для последующей обработки текста и поиска семантически близких слов.

XCiT Small/12 P16 224 fb_dist_in1k — модель классификации изображений и извлечения признаков из семейства Cross-Covariance Image Transformer (XCiT). Карточка указывает, что модель обучена авторами статьи на ImageNet-1k с дистилляцией; репозиторий предоставляет веса в форматах PyTorch и safetensors и рассчитан на использование с библиотекой timm. Модель содержит 26,3 млн параметров, обрабатывает изображения размером 224 × 224 и может служить классификатором либо основой для получения эмбеддингов изображений. Основной сценарий — распознавание объектов и категорий из ImageNet-1k. Лицензия Apache-2.0. Карточка не описывает поддержку дополнительных наборов классов или специализированных областей.

Ziya-LLaMA-7B-Reward — разработанная командой Fengshenbang модель оценки ответов, основанная на Ziya-LLaMA и дообученная на данных ранжирования предпочтений. Она принимает текст и выдаёт оценку вознаграждения, помогая сравнивать варианты ответов языковых моделей и выявлять повторы, незавершённые ответы и несоблюдение инструкций. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LLaMA и рассчитана на контекст до 2048 токенов. Обучающие данные включают китайские и английские примеры, а модель предназначена для оценки генераций на китайском и английском языках. Лицензия репозитория — GPL. Модель хуже справляется с проверкой фактической точности и различением ответов близкого качества; оценки ответов разных типов задач могут быть несопоставимы.

AfriBERTa large — предварительно обученная многоязычная языковая модель семейства XLM-RoBERTa, разработанная Castorini для африканских языков. В метаданных указано 148,1 млн параметров; README описывает архитектуру из 10 слоёв с 6 головами внимания, размером скрытого представления 768 и промежуточным слоем 3072. Модель принимает текст и предсказывает пропущенные токены; её также можно дообучать для классификации текста и распознавания именованных сущностей. Контекст — до 514 токенов по метаданным. Модель обучалась на корпусе объёмом менее 1 ГБ, объединяющем материалы BBC и Common Crawl, преимущественно новости. README указывает обучение на 11 африканских языках и конкурентные результаты в классификации и распознавании сущностей, в том числе для некоторых языков, не входивших в предобучение. Ограниченный объём и состав данных могут ухудшать обобщение и способность модели усваивать сложные языковые связи. Лицензия — MIT.

ALBERT XLarge v2 — англоязычная предобученная модель семейства ALBERT, представленная авторами ALBERT и доступная в формате Hugging Face Transformers. Она обучалась на BookCorpus и англоязычной Википедии с использованием masked language modeling и предсказания порядка предложений; регистр букв не учитывается. Модель предназначена для заполнения пропусков в тексте и получения контекстных представлений, которые можно использовать при дообучении для классификации последовательностей и токенов, а также ответов на вопросы. Архитектура — плотный Transformer AlbertForMaskedLM с 24 повторно используемыми слоями, размерностью эмбеддингов 128, скрытым размером 2048 и 16 головами внимания. В метаданных указано 1,7 млрд параметров; собственная длина контекста — 512 токенов. Доступны веса PyTorch, safetensors и TensorFlow. Разделение параметров между слоями уменьшает объём памяти по сравнению с моделью без такого разделения, но вычислительная стоимость остаётся высокой. Модель рассчитана на английский язык и не предназначена для генерации свободного текста; для прикладных задач обычно требуется дообучение. Предсказания могут содержать смещения, унаследованные от обучающих данных. Лицензия — Apache-2.0.

ALIA MrBERT Spanish Legal and Administrative Embeddings — модель-биэнкодер группы SINAI Университета Хаэна для семантического поиска и сопоставления испанских юридических и административных текстов. Она дообучена на основе двуязычной энкодерной модели BSC-LT/MrBERT-es с архитектурой ModernBERT и использует mean pooling для получения векторных представлений предложений и документов. Модель содержит около 149,6 млн параметров, принимает текст и поддерживает контекст до 8 192 токенов. При дообучении применялись curriculum learning и отбор сложных негативных примеров. Она предназначена для поиска релевантных документов и оценки семантического сходства в испанской правовой и административной тематике. Это доказательство концепции, поэтому результаты следует проверять по официальным правовым источникам; качество может снижаться на текстах вне целевой области и при состязательных запросах. Лицензия — Apache-2.0.

Nexusflow Athene-RM-70B — открытая по весам reward-модель команды Nexusflow, дообученная на Meta Llama 3 70B Instruct. Она оценивает ответы языковой модели и предназначена для ранжирования вариантов и поддержки обучения с обратной связью от предпочтений. Модель использует плотную архитектуру Llama с классификационной головой, содержит 69,5 млрд параметров и принимает текстовые данные; контекст — до 8192 токенов. В карточке заявлен английский язык. Модель распространяется по Nexusflow Research License; условия лицензии следует проверить перед использованием.

BanglaBERT — предварительно обученный дискриминатор ELECTRA, разработанный командой CSE BUET для обработки текста на бенгальском языке. Модель содержит 137,8 млн параметров, использует цель обучения Replaced Token Detection (RTD) и принимает последовательности длиной до 512 токенов. Репозиторий содержит веса PyTorch. Чекпойнт предназначен прежде всего для дообучения под задачи классификации тональности, распознавания именованных сущностей, вывода на естественном языке и ответов на вопросы. Прикладные модели на его основе показывали высокие результаты на ряде бенгальских NLP-задач. Для лучших результатов текст нужно нормализовать тем же конвейером, который использовался при предобучении; после этого модельные представления можно применять в задачах классификации и разметки. Лицензия в предоставленных данных не указана.

lyeonii/bert-mini — преобразованная в PyTorch версия компактной англоязычной модели BERT-Mini без учёта регистра, первоначально выпущенной Google Research. Это плотный энкодер BERT примерно на 12 млн параметров с контекстом до 512 токенов; он выдаёт векторные представления текста и подходит для извлечения признаков в NLP-системах. В карточке приведены результаты оценки на задаче MRPC, но модель не описана как специально дообученная для неё. Модель принимает текст на английском языке и формирует контекстные представления токенов. Весами можно пользоваться на условиях лицензии MIT. Это конверсия исходных весов TensorFlow в формат PyTorch.

NeuML разработала BiomedBERT ColBERT — англоязычную модель эмбеддингов с несколькими векторами, дообученную на microsoft/BiomedNLP-BiomedBERT-base-uncased-abstract-fulltext. Она кодирует предложения и абзацы в последовательности плотных векторов размерностью 128 и оценивает их сходство с помощью позднего взаимодействия ColBERT и оператора MaxSim. Модель предназначена для семантического поиска и извлечения релевантных фрагментов из биомедицинских текстов, в том числе как источника контекста для RAG. Её можно применять для поиска по большим коллекциям публикаций, подбора ответов на вопросы по медицинской литературе и ускоренного переранжирования результатов. В README приведены оценки на PubMed QA, PubMed Subset и PubMed Summary; автор отмечает, что модель превосходит включённые в сравнение модели на среднем результате. Она не является cross-encoder, а её контекст ограничен 512 токенами. Модель содержит 136,7 млн параметров, распространяется в формате safetensors и доступна по лицензии Apache-2.0.

dpk-sethiii/catalogiq-biencoder — дообученный Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2, разработанный для семантического поиска по текстам, связанным с товарами. Модель кодирует предложения и абзацы в плотные векторы размерности 384; архитектура включает энкодер BERT, усредняющий пулинг и нормализацию. Для сравнения векторов можно использовать косинусное сходство. В метаданных указан размер 25,9 млн параметров и контекст до 512 токенов; README сообщает максимальную длину последовательности 128 токенов. Модель обучалась на 36 парах описаний наушников и предназначена для извлечения релевантных текстов, например поиска похожих товарных карточек. README приводит оценку cosine accuracy 0,8 на dev-наборе, однако малый объём обучающих данных и узкая товарная тематика ограничивают перенос результатов на другие области. Поддерживается текстовый ввод; лицензия в предоставленных данных не указана.

cinedark-modelo — дообученная Gonzalo Alex модель Sentence Transformers на базе BAAI/bge-m3 для поиска и сопоставления предложений и описаний фильмов. Она преобразует текстовые запросы и документы в плотные векторы размерности 1024, которые можно сравнивать по косинусному сходству; архитектура включает XLM-RoBERTa, пулинг CLS и нормализацию. Максимальная длина последовательности — 8192 токена. Модель обучена на 1400 парах текстов с помощью MultipleNegativesRankingLoss; примеры в карточке относятся к жанрам, тону и описаниям кино на испанском языке. Модель подходит для поиска фильмов по свободному описанию, ранжирования карточек фильмов по запросу и семантического сопоставления коротких фраз с описаниями. Она принимает текст и выдаёт эмбеддинги для последующего поиска или сравнения. Лицензия в предоставленных данных не указана.