I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейM3E-Large — текстовая модель эмбеддингов, разработанная MokaAI на базе архитектуры RoBERTa из серии моделей лаборатории HFL и распространяемая в формате PyTorch. Модель содержит 424,3 млн параметров, формирует плотные векторы размерности 768 и обрабатывает последовательности длиной до 512 токенов. Модель предназначена прежде всего для китайского текста и поддерживает ограниченные сценарии с английским. Она обучалась контрастивным методом с внутрипакетными отрицательными примерами на китайских парах предложений и английских триплетах; при кодировании может учитывать инструкции. Её применяют для оценки сходства текстов, поиска релевантных фрагментов по запросу и построения текстовых классификаторов на эмбеддингах. Модель совместима с Sentence Transformers и может использоваться в системах семантического поиска и RAG. В карточке приведены результаты сравнительных тестов сходства, классификации и поиска; качество зависит от данных и сценария, а для кода модель не предназначена. Контекст ограничен 512 токенами. Лицензия в доступных сведениях не указана.
MaMMUT2 ViT-B/32 cc12m-noz — вариант модели MaMMUT2 от разработчика rwightman, обученный на данных CC12M и отличающийся от mammut2_ViT-B-32.cc12m отсутствием caption z-loss. Это мультимодальная модель для сопоставления изображений и текста, подходящая для классификации изображений по текстовым описаниям без отдельного дообучения и поиска по парам изображение–текст. В карточке приведены сравнительные результаты zero-shot-классификации и поиска изображений по тексту, а также оценки генерации подписей. Вариант использует архитектуру ViT-B/32; реализация рассчитана на OpenCLIP. Карточка упоминает современную текстовую башню с токенизатором r50k и контекстом 128 токенов, но не уточняет, что именно эта конфигурация относится к данному варианту. Модель распространяется по лицензии Apache-2.0. Результаты на подписях ограничены различием между стилем alt-text датасета CC12M и эталонными подписями COCO; абсолютные значения CIDEr в карточке охарактеризованы как низкие.
MahaSBERT — модель представления предложений, разработанная командой L3Cube-Pune в рамках проекта MahaNLP. Она основана на MahaBERT для маратхи (l3cube-pune/marathi-bert-v2) и дообучена на наборе данных NLI. Модель относится к семейству BERT, содержит 264,8 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 768; контекст ограничен 512 токенами. Модель предназначена для оценки смыслового сходства предложений, семантического поиска и кластеризации текстов на маратхи. Её можно использовать через Sentence-Transformers либо Transformers с подходящей операцией pooling. Репозиторий содержит веса PyTorch и доступен по лицензии CC BY 4.0. README упоминает более позднюю улучшенную версию, дообученную для сходства предложений.
Omartificial-Intelligence-Space разработала эту модель Sentence Transformers дообучением арабоязычной UBC-NLP/MARBERTv2 на наборе Arabic-NLi-Triplet. Модель кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости текстов; для оценки близости используется косинусное сходство. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текстов. Matryoshka-обучение позволяет использовать укороченные представления размерностью 512, 256, 128 или 64. Архитектура основана на BERT, максимальная длина входа — 512 токенов. Основной язык — арабский. В метаданных указаны 190 млн параметров и лицензия Apache-2.0. Результаты на приведённых в карточке наборах STS показывают умеренное соответствие оценкам семантической близости; качество на иных данных может отличаться. Модель не предназначена для генерации текста.
gemasphi/mcontriever — модель на основе архитектуры BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Общее число параметров — 205,1 млн, максимальная длина контекста — 512 токенов; репозиторий содержит веса PyTorch. Модель подходит для построения векторного поиска по текстовым коллекциям, группировки похожих фрагментов и оценки семантической близости. В README описано обучение с CosineSimilarityLoss. Язык обучения или перечень поддерживаемых языков в предоставленных данных не подтверждены. Лицензия в доступных сведениях не указана.
Moritz Laurer выпустил многоязычную модель mDeBERTa-v3-base-mnli-xnli на базе архитектуры DeBERTa-v2. Модель содержит 306 млн параметров, принимает пары текстов для вывода о логическом следовании и подходит для классификации по заданным пользователем категориям без отдельного обучения на этих категориях. Её контекст ограничен 512 токенами. Модель предварительно обучена Microsoft на многоязычном корпусе CC100, затем дообучена на английском MNLI и профессионально переведённых данных XNLI. Карточка указывает поддержку NLI на 100 языках; наиболее подробно оценены 15 языков XNLI, включая русский. Средняя точность на тесте XNLI составила 0,808, при этом качество зависит от языка и может быть ниже для языков вне набора оценки. Модель распространяется по лицензии MIT.
Moritz Laurer разработал эту многоязычную модель на базе mDeBERTa-v3-base от Microsoft для вывода на естественном языке (NLI) и классификации текстов без обучения на заданных пользователем категориях. Модель сопоставляет текст-предпосылку с гипотезой и оценивает их отношение; для классификации гипотезы формулируют как категории-кандидаты. Она относится к архитектуре DeBERTa-v2, содержит 306 млн параметров и принимает пары текстов с контекстом до 512 токенов. Модель обучена на XNLI и многоязычном наборе NLI из 2,73 млн пар; README также указывает общий обучающий набор размером 3 287 280 пар. Она предназначена для многоязычного zero-shot-классифицирования и NLI. Предобучение базовой модели охватывает 100 языков, а NLI-дообучение — 27 языков, включая русский; перенос на остальные языки возможен, но его качество может быть ниже. В карточке приведены результаты оценки на XNLI и нескольких англоязычных наборах. К ограничениям относятся возможные смещения наборов NLI и ошибки машинного перевода в обучающих данных, способные ухудшать вывод на сложных примерах. Модель распространяется по лицензии MIT; для запуска нужны совместимые версии Transformers, поскольку старые версии могут иметь проблемы с токенизатором.
asadfgglie/mDeBERTa-v3-base-xnli-multilingual-zeroshot-v1.0 — дообученная многоязычная модель классификации текста на основе mDeBERTa-v3-base, разработанная asadfgglie. Она предназначена для классификации без примеров: пользователь задаёт категории, а модель оценивает, насколько текст соответствует каждой из них. Метаданные указывают архитектуру DeBERTa-v2, около 306 млн параметров и контекст до 512 токенов. Модель дообучена на наборе NLI для zh-TW; в README приведены результаты оценки на нескольких наборах данных, включая macro F1 0,872 на одном из них. Используются веса PyTorch в формате safetensors. Лицензия в доступных данных не указана.
Карточка модели shtilev/medical_embedded_v4 на Hugging Face совпадает с карточкой onelevelstudio/MPNET-0.3B, поэтому описание составлено по ней. onelevelstudio/MPNET-0.3B — многоязычная модель эмбеддингов предложений, основанная на архитектуре XLM-RoBERTa и библиотеке Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В README указана модель sentence-transformers/paraphrase-multilingual-mpnet-base-v2 как описание и источник сведений о назначении; разработчиком базовой модели названа команда Sentence-Transformers. Модель содержит 305,2 млн параметров и принимает текстовые фрагменты с контекстом до 514 токенов. Доступны веса и реализации в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Поддерживаются многие языки, в том числе русский и английский. Лицензия — Apache-2.0. Подходит для семантического поиска, оценки сходства текстов и кластеризации предложений и абзацев. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы или разметку; качество зависит от языка и предметной области, а предел контекста ограничивает длину обрабатываемого фрагмента.
Mykes/med-MiniLM-L12-3059 — дообученная модель Sentence Transformer на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для сравнения смыслового сходства, семантического поиска, поиска перефразировок, классификации текстов и кластеризации. В архитектуре используются BERT и усреднение токенных представлений; для сравнения векторов можно применять косинусное сходство. Базовая модель поддерживает несколько языков. Модель создана на парных примерах «запрос — положительный текст», включая медицинские формулировки на русском языке. По README максимальная длина последовательности составляет 128 токенов; метаданные указывают нативный контекст 512 токенов. Модель содержит 124,3 млн параметров и распространяется в формате safetensors. Лицензия в предоставленных данных не указана.
marianodo/MegaBatchMarginLoss-10 — модель на базе MPNet, подготовленная в формате Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерностью 768. Она предназначена для семантического поиска, сравнения сходства текстов и кластеризации. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель работает с текстом и выдаёт эмбеддинги. При обучении использовалась функция потерь MegaBatchMarginLoss. Модель подходит для получения векторных представлений отдельных текстов, которые можно сравнивать или использовать в поисковых и кластеризационных системах. README не сообщает, на каких языках и данных она обучалась, поэтому языковую специализацию определить нельзя. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.
Megatron-BERT-large Swedish 165k for zero-shot classification — шведская модель для классификации текста без заранее заданного набора классов. Её разработала KBLab на основе Megatron-BERT-large-165k: модель дообучили на задачах QNLI, а затем MNLI. Архитектура — плотный Megatron-BERT для классификации последовательностей, размер — 468,3 млн параметров. Модель предназначена для присвоения тексту меток из пользовательского списка категорий через pipeline zero-shot classification в Hugging Face Transformers. Это подходит, например, для сортировки шведских текстов по темам или проверки их соответствия заданным утверждениям. Поддерживается шведский язык; максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch и Safetensors. Сведения о лицензии в предоставленных материалах отсутствуют.
facebook/metaclip-2-mt5-worldwide-b32 — мультиязычная модель MetaCLIP 2, разработанная Meta и представленная в работе «MetaCLIP 2: A Worldwide Scaling Recipe». Это чекпойнт ViT-B/32 с токенизатором mT5, соответствующий варианту «ViT-B-32-mT5-worldwide» оригинальной реализации. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на заданных классах: пользователь передаёт изображение и варианты меток или описаний, а модель сопоставляет их. Модель использует архитектуру MetaClip2Model и распространяется в формате safetensors для Transformers. Карточка указывает мультиязычную направленность, но конкретные поддерживаемые языки, число параметров и размер контекста не приводит. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
Это конверсия MetaCLIP 2 Worldwide в формате Keras 3 от zeromodels на основе facebook/metaclip-2-worldwide-b16-384. Модель с архитектурой CLIP использует два энкодера для сопоставления изображений и текстовых описаний и классификации изображений без заранее заданного набора классов. Реализация работает с TensorFlow, PyTorch и JAX. Модель рассчитана на многоязычную классификацию без обучения на конкретных классах: можно сравнивать изображение с текстовыми подсказками на разных языках. Worldwide-вариант использует словарь XLM-RoBERTa из 901 тысячи токенов; README рекомендует применять соответствующий модели процессор для согласования размера изображения и токенизатора. Лицензия CC-BY-NC-4.0 разрешает использование на некоммерческих условиях.
Это конверсия MetaCLIP 2 Worldwide B32 384 в формате Keras 3, подготовленная zeromodels на основе facebook/metaclip-2-worldwide-b32-384. Модель использует архитектуру CLIP с двумя энкодерами для изображений и текста и предназначена для классификации изображений по текстовым описаниям без дообучения: она сопоставляет изображение с заданными пользователем текстовыми классами и оценивает их соответствие. Worldwide-вариант обучен на многоязычных данных и использует словарь XLM-RoBERTa на 901 тысячу токенов, поэтому поддерживает текстовые запросы на разных языках, включая английский, французский, испанский и немецкий. Версия B32 384 принимает изображения и текстовые метки; реализация Keras 3 может запускаться с TensorFlow, Torch или JAX. Лицензия CC-BY-NC-4.0 разрешает использование только на некоммерческих условиях.
MetaCLIP 2 (worldwide) — мультимодальная модель семейства CLIP, разработанная Meta и представленная в работе «MetaCLIP 2: A Worldwide Scaling Recipe». Этот чекпойнт соответствует варианту ViT-H-14-378-worldwide из оригинальной реализации; для работы с ним предусмотрена библиотека Transformers. Модель предназначена для классификации изображений по текстовым описаниям без предварительного обучения на конкретных классах. Она сопоставляет изображения и текстовые метки, что позволяет задавать категории на естественном языке. Карточка указывает на многоязычную поддержку. Веса опубликованы в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
Это конверсия MetaCLIP 2 ViT-L/14 от zeromodels, основанная на facebook/metaclip-2-worldwide-l14. Модель использует архитектуру CLIP с двумя энкодерами: один обрабатывает изображения, другой — текстовые описания. Реализация выполнена на Keras 3 и работает с TensorFlow, PyTorch и JAX. Модель предназначена для классификации изображений без предварительного обучения на заданных классах: она сопоставляет изображение с текстовыми метками или описаниями и оценивает их соответствие. Worldwide-вариант обучен на многоязычных данных и использует словарь XLM-RoBERTa на 901 тысячу токенов, поэтому поддерживает текстовые запросы на разных языках без отдельного мультиязычного чекпойнта. Лицензия CC-BY-NC-4.0 разрешает использование на некоммерческих условиях.
Distilled MetaCLIP 2 ViT-S/16 (worldwide) — модель семейства MetaCLIP 2, представленная авторами работы «MetaCLIP 2: A Worldwide Scaling Recipe». Этот чекпойнт соответствует варианту ViT-S-16-worldwide из оригинальной реализации и предназначен для классификации изображений по текстовым описаниям без дополнительного обучения: пользователь задаёт варианты классов, а модель сопоставляет их с изображением. Модель мультиязычная, построена на архитектуре MetaClip2Model и распространяется в формате safetensors для библиотеки Transformers. Карточка не сообщает размер модели и длину контекста. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
antarge/minilm-finetuned — дообученная модель на базе sentence-transformers/all-MiniLM-L6-v2, предназначенная для получения векторных представлений предложений и оценки их семантического сходства. Она использует плотную архитектуру BERT и распространяется в формате PyTorch; для работы требуется библиотека Transformers или Sentence Transformers. Модель обучена на наборе sentence-transformers/all-nli и ориентирована на англоязычные тексты. Лицензия — MIT, допускающая коммерческое использование при соблюдении её условий. Модель подходит для поиска предложений по смыслу, сравнения формулировок и кластеризации текстов. Размер указан в метаданных как 252 млн параметров, однако README не поясняет его расчёт для этой модели; поэтому практические свойства размера базовой модели отдельно не выводятся. Карточка не сообщает длину контекста и ограничения качества.
osiria разработала MiniLM L6 H384 Italian Cross Encoder — компактную модель на базе MiniLMv2, предназначенную для ранжирования текстовых пар на итальянском языке. Она получена на основе mmarco-mMiniLMv2-L6-H384-v1 с адаптацией embedding-слоя к итальянскому языку с использованием частот слов из Википедии. Архитектура в метаданных указана как XLM-RoBERTa для классификации последовательностей; размер — 25,9 млн параметров, контекст — до 514 токенов. Модель поддерживает ранжирование и классификацию текста. Выпущена по лицензии MIT.
Mira-v1 — модель sagea-ai для быстрых типизированных решений: она принимает контекстное состояние и вопросы с вариантами ответа, а одним проходом возвращает распределения вероятностей, уверенность и сигнал воздержания. Модель не генерирует текст; её можно использовать для маршрутизации запросов и выбора решения в коде, отдельно или пакетно. Модель дообучена на компактном мультиязычном энкодере ModernBERT mmBERT-small, содержит 140,5 млн параметров и поддерживает контекст до 8192 токенов. В карточке заявлены задачи выбора варианта, оценки и ответа «да/нет»; среди описанных сильных сторон — калибровка вероятностей и маршрутизация намерений. Разработчик сообщает о слабых результатах в тематической классификации и о том, что при более чем 20 вариантах требуется двухэтапный отбор. Лицензия Apache-2.0. Обучающие данные закрыты, а перед применением в важных решениях разработчик рекомендует оценить модель на конкретных вопросах. Она сравнивает предложенные ответы и не восполняет отсутствующие факты и не выполняет арифметические вычисления.
avsolatorio/MixEmbedMean-base-20240116005519-best — компактная модель эмбеддингов предложений на архитектуре BERT, распространяемая в формате safetensors. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска и кластеризации. Модель дистиллирована из BAAI/bge-small-en-v1.5; в ней примерно 18,8 млн параметров, а контекст ограничен 512 токенами. Модель предназначена для создания векторного представления текста и поиска смыслово близких фрагментов. В README заявлено, что при примерно половине числа параметров all-MiniLM-L6-v2 она показывает сопоставимое качество; отдельные результаты оценки в карточке не приведены. Ориентирована на английский язык. Лицензия в предоставленных данных не указана.
tanbinh2210 выпустил модель Sentence Transformers, дообученную на базе tanbinh2210/mlm_finetuned_phobert. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по косинусному сходству. Архитектура включает трансформер RoBERTa с усреднением токеновых представлений; модель содержит 162,4 млн параметров и обрабатывает последовательности длиной до 258 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текстов на основе эмбеддингов. Она обучалась на выборках query, pos и neg из JSON-датасета, размер которого указан как 357 018 примеров. Базовая модель основана на PhoBERT, поэтому модель ориентирована прежде всего на вьетнамский язык. Распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.
LocalDoc/mmBERT-small-en-az — компактный мультиязычный энкодер на архитектуре ModernBERT, созданный сокращением словаря jhu-clsp/mmBERT-small для английского и азербайджанского языков. Из исходного словаря примерно на 256 тысяч токенов оставлено 71 751; размер модели уменьшен примерно на 46%, до 69,7 млн параметров. Слои трансформера не менялись, были сокращены только эмбеддинги. Модель принимает текст и формирует контекстные представления, которые можно использовать для получения эмбеддингов предложений и оценки сходства.
MMLW-roberta-large — польский текстовый энкодер семейства RoBERTa, разработанный для получения векторных представлений предложений и текстов. Модель содержит 533,7 млн параметров и преобразует текст в векторы размерностью 1024; максимальная длина контекста — 514 токенов. Модель дистиллирована из польского чекпойнта RoBERTa с использованием мультиязычной дистилляции: учительскими моделями были английские FlagEmbeddings (BGE), а обучающий корпус включал 60 млн пар текстов на польском и английском языках. Она предназначена для семантического сравнения, кластеризации и поиска информации, а также может служить основой для дальнейшего дообучения. Для кодирования запросов README требует добавлять префикс «zapytanie: ». В README приведены средний результат 63,23 на польском бенчмарке MTEB и NDCG@10 55,95 на польском бенчмарке поиска PIRB. Доступны веса PyTorch и Safetensors; лицензия — Apache-2.0. Модель специализирована на польском, поэтому результаты для других языков и задач за пределами описанных сценариев могут отличаться.
Карточка модели cam-1000/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой KingName1/sentence_transformer, поэтому описание составлено по ней. KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.
MobileCLIP-S1 — компактная модель сопоставления изображений и текста, разработанная Apple и опубликованная как чекпойнт для OpenCLIP. Работа о семействе MobileCLIP представлена на CVPR 2024. Вариант S1 включает визуальную часть с 21,5 млн и текстовую часть с 63,4 млн параметров; в README для него указаны точность zero-shot классификации ImageNet 72,6% и средний результат 61,3% на 38 наборах данных. Модель предназначена для классификации изображений по текстовым описаниям без отдельного обучения на целевых классах, а также для поиска соответствий между изображением и текстом. Компактная архитектура ориентирована на быстрое выполнение таких задач; веса доступны в форматах PyTorch и safetensors, использовать их можно через OpenCLIP. Лицензия — Apple AMLR. README приводит результаты оценки, но не описывает ограничения точности для конкретных предметных областей или условий съёмки; качество следует проверять на целевых данных.
Модель jfarray/Model_bert-base-multilingual-uncased_50_Epochs — модель на архитектуре BERT, разработанная с использованием Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 256 для семантического поиска и кластеризации. Модель также подходит для сравнения семантической близости текстов и получения текстовых эмбеддингов. Модель имеет 194,6 млн параметров и принимает последовательности длиной до 512 токенов. В карточке указано обучение с CosineSimilarityLoss; файлы представлены в формате PyTorch. Многоязычность следует из базового семейства multilingual BERT, но конкретный перечень поддерживаемых языков в доступных данных не приведён.
jfarray/Model_dccuchile_bert-base-spanish-wwm-uncased_10_Epochs — модель эмбеддингов предложений на базе BERT, опубликованная пользователем jfarray. Она кодирует предложения и абзацы в плотные векторы размерности 256 для поиска семантически близких текстов и кластеризации. Модель содержит 137,1 млн параметров, работает с текстом и поддерживает контекст до 512 токенов; в карточке указана библиотека Sentence-Transformers и обучение с CosineSimilarityLoss. Модель подходит для семантического поиска и группировки текстов по смыслу. Название базовой модели указывает на испанский BERT dccuchile/bert-base-spanish-wwm-uncased, поэтому основной язык — испанский. В метаданных указаны формат PyTorch и задачи извлечения признаков и сходства предложений. Лицензия в предоставленных данных не указана.
Карточка модели jfarray/Model_dccuchile_bert-base-spanish-wwm-uncased_50_Epochs на Hugging Face совпадает с карточкой jfarray/Model_bert-base-multilingual-uncased_50_Epochs, поэтому описание составлено по ней. Модель jfarray/Model_bert-base-multilingual-uncased_50_Epochs — модель на архитектуре BERT, разработанная с использованием Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 256 для семантического поиска и кластеризации. Модель также подходит для сравнения семантической близости текстов и получения текстовых эмбеддингов. Модель имеет 194,6 млн параметров и принимает последовательности длиной до 512 токенов. В карточке указано обучение с CosineSimilarityLoss; файлы представлены в формате PyTorch. Многоязычность следует из базового семейства multilingual BERT, но конкретный перечень поддерживаемых языков в доступных данных не приведён.