I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейkipark дообучил Sentence Transformer на базе sentence-transformers/all-mpnet-base-v2 для кодирования предложений и абзацев в плотные векторы. Модель на архитектуре MPNet содержит 136,7 млн параметров; README указывает вектор размерности 768 и максимальную длину последовательности 384 токена, а метаданные — контекст до 514 токенов. Векторы нормализуются, а для сравнения предлагается косинусное сходство. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. В README приведены результаты оценки поиска на наборе validation, но они не гарантируют аналогичное качество на других данных. Лицензия в предоставленных источниках не указана.
gart-labor/all-mpnet-base-v2-eclass — модель Sentence Transformers на базе MPNet, дообученная разработчиком на датасете eclass. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и имеет контекст до 514 токенов; в карточке указан английский язык. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
LLukas22/all-mpnet-base-v2-embedding-all — англоязычная модель на архитектуре MPNet, дообученная автором на базе all-mpnet-base-v2 для получения эмбеддингов предложений и оценки их сходства. Она предназначена для поиска семантически близких текстов и ранжирования документов по релевантности, в том числе в системах вопросов и ответов и информационного поиска. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторные представления, которые можно сравнивать для поиска похожих фрагментов. Контекст ограничен 514 токенами. Для обучения использованы SQuAD, NewsQA, CQADupStack, FiQA, SciDocs, GermanQuAD и Natural Questions; автор приводит результаты ранжирования для нескольких эпох. Модель разработал LLukas22 в рамках магистерской работы об использовании трансформерных языковых моделей в сервисных информационных системах. Модель распространяется по лицензии Apache-2.0. Карточка описывает применение Sentence-Transformers; датасеты охватывают вопросы и ответы, финансовую и научную тематику, но это не означает специализацию модели на этих областях.
guidecare/all-mpnet-base-v2-feature-extraction — копия модели all-mpnet-base-v2 для получения эмбеддингов предложений и коротких абзацев. Модель разработана командой Hugging Face в рамках Community Week и обучена дообучением microsoft/mpnet-base на более чем миллиарде пар предложений с контрастивной целью. Архитектура MPNet содержит 136,7 млн параметров и выдаёт плотный вектор размерности 768 для входного текста. Модель подходит для семантического поиска, сравнения сходства предложений и кластеризации текстов. Метаданные указывают поддержку английского языка; входы длиннее 384 токенов WordPiece обрезаются. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. README отмечает, что отличие этой копии от официальной модели заключается в изменённом теге pipeline.
Это модель Sentence Transformers на базе MPNet, разработанная автором репозитория hmehta92. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения предложений и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 514 токенов. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
beautifulpichai/all-mpnet-base-v2-ledgar-full-contrastive — модель Sentence-Transformers на архитектуре MPNet, разработанная на базе all-mpnet-base-v2 и дообученная для контрастивного представления предложений. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров и принимает текст с контекстом до 514 токенов. Модель подходит для поиска семантически близких фрагментов и группировки текстов по смыслу. В метаданных указаны задачи извлечения признаков и оценки сходства предложений. Доступный формат — PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.
Это модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, дообученная Alessio Borgi с использованием TripletLoss на наборе из 6 551 примера. Она кодирует предложения и абзацы в плотные векторы размерности 768 и нормализует их; для сравнения векторов предусмотрена косинусная близость. Модель подходит для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Архитектура включает MPNet, среднее объединение токенов и нормализацию. Максимальная длина последовательности в README — 384 токена; метаданные указывают native context в 514 токенов. Использовать модель можно через библиотеку sentence-transformers. Лицензия в предоставленных данных не указана.
Alessio-Borgi опубликовал дообученную модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2. Она кодирует предложения и абзацы в плотные векторы размерности 768, нормализованные для сравнения по косинусному сходству. Модель использует MPNet с усреднением токенных представлений и рассчитана на последовательности длиной до 514 токенов по метаданным Hugging Face; в README указано ограничение 384 токена. Дообучение с TripletLoss ориентировано на улучшение семантического сравнения текстов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста, а также для построения эмбеддингов в прикладных системах. Она принимает и возвращает текстовые представления в виде векторов. Лицензия в предоставленных данных не указана.
Ozgur Celik дообучил Sentence Transformer на базе sentence-transformers/all-mpnet-base-v2. Модель кодирует предложения и абзацы в плотные векторы размерности 768; для сравнения текстов используется косинусное сходство. В архитектуру входят MPNet, усредняющий пулинг токенов и нормализация. Максимальная длина последовательности в README — 384 токена, а метаданные указывают нативный контекст в 514 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Она обучалась на 793 примерах с anchor, positive и negative-текстами с использованием MultipleNegativesRankingLoss. Лицензия в предоставленных данных не указана.
deepset/all-mpnet-base-v2-table — модель эмбеддингов предложений на основе MPNet, выпущенная компанией deepset. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости, семантического поиска и кластеризации текстов. Модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов. Обучение использовало MultipleNegativesRankingLoss с косинусной функцией сходства. Векторы можно применять для ранжирования текстов по смысловой близости и поиска похожих фрагментов. Модель принимает текст и выдаёт векторные представления; сведений о специализации на конкретном языке в карточке нет. Лицензия в предоставленных данных не указана.
all-roberta-large-v1 — модель Sentence-Transformers, разработанная в рамках Community Week Hugging Face и проекта по обучению эмбеддингов предложений на миллиардной выборке пар. Она основана на RoBERTa-large и дообучена с контрастивной целью на более чем миллиарде пар предложений; архитектура — RoBERTa, размер — 454,1 млн параметров. Модель кодирует предложения и короткие абзацы в плотные векторы размерности 1024, отражающие их семантическое содержание. Модель предназначена для семантического поиска, сравнения сходства предложений и кластеризации текстов. Она принимает текст и возвращает вектор; вход длиннее 128 токенов-подслов обрезается согласно README. Максимальный контекст в метаданных указан как 514 токенов. Основной язык карточки — английский. Лицензия Apache 2.0; доступны форматы PyTorch, Safetensors, ONNX и OpenVINO.
SeanLee97/angle-bert-base-uncased-nli-en-v1 — модель текстовых эмбеддингов AnglE на архитектуре BERT-base-uncased, разработанная авторами AnglE. Она преобразует отдельные тексты или их списки в векторы для измерения семантической близости и поиска похожих фрагментов. В README приведены результаты на наборах задач семантического сходства STS12–STS16, STSBenchmark и SICKRelatedness; модель обучена на данных MultiNLI и SNLI. Модель содержит 136,7 млн параметров, принимает текст на английском языке и поддерживает контекст до 512 токенов. В примере использования применяется стратегия pooling cls_avg. Репозиторий содержит веса PyTorch для Transformers; лицензия — MIT. Карточка демонстрирует применение для семантического сходства и эмбеддингов, но не описывает генерацию текста или поддержку других языков.
Это двуязычная модель Sentence Transformers на базе FacebookAI/xlm-roberta-large, дообученная для работы с арабскими и английскими предложениями. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для сравнения смысловой близости, семантического поиска и других задач, где нужно сопоставлять тексты. Модель поддерживает как отдельную работу с арабским и английским, так и межъязыковое сопоставление между ними. Модель поддерживает Matryoshka embeddings: векторы можно сокращать до 768, 512, 256, 128 или 64 измерений, чтобы уменьшить потребление памяти и ускорить последующую обработку. Максимальная длина последовательности — 512 токенов по README и 514 токенов в метаданных; используется библиотека sentence-transformers, веса доступны в формате safetensors. Автор сообщает об улучшении метрик MTEB по сравнению с предыдущей версией, особенно для арабско-английских задач, и рекомендует самостоятельно проверять соответствие модели конкретному сценарию. Лицензия в предоставленных данных не указана.
Arabic-STS-Matryoshka — модель Sentence Transformers, разработанная на основе FacebookAI/xlm-roberta-large и дообученная для получения эмбеддингов арабских предложений и абзацев. Она кодирует текст в плотные векторы размерностью до 1024, а обучение с MatryoshkaLoss позволяет использовать также укороченные представления размерностью 786, 512, 128 или 64. Для сравнения векторов применяется косинусное сходство; максимальная длина входной последовательности — 512 токенов. Модель предназначена для оценки семантического сходства, семантического поиска, поиска перефразировок, классификации и кластеризации арабских текстов. В README приведён результат на sts-dev: Spearman по косинусному сходству — 0,8275. Модель принимает текст и выдаёт векторы; она не предназначена для генерации ответов. Лицензия — Apache-2.0.
AraGemma-Embedding-300m — модель эмбеддингов, созданная Omartificial-Intelligence-Space на основе EmbeddingGemma-300M от Google DeepMind. Её дообучили на 1 млн арабских триплетов с использованием Matryoshka Representation Learning для улучшения понимания смысла арабских текстов. Модель принимает текст на арабском и других языках и возвращает плотный вектор размерности 768. Она поддерживает усечение векторов до 512, 256 или 128 измерений с повторной нормализацией и контекст до 2048 токенов. Подходит для семантического поиска и извлечения данных, сравнения предложений, кластеризации, классификации документов и подготовки фрагментов для RAG; также поддерживает межъязыковой поиск. Совместима с Sentence Transformers и Transformers. Модель компактна относительно крупных языковых моделей и рассчитана на эффективное развёртывание, включая локальные устройства. В README приведены результаты сравнения с арабскими моделями эмбеддингов на STS17 и STS22-v2. По карточке, активации эмбеддингов не поддерживают float16: используйте float32 или bfloat16. Лицензия — Apache-2.0.
b1ade-embed-kd — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная пользователем w601sxs. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для семантического поиска, кластеризации и оценки сходства текстов. Модель обучена дистилляцией с использованием MSELoss; в README отмечено согласие результатов с моделью-учителем на задаче семантического сходства. Модель доступна в формате safetensors и интегрируется с библиотекой Sentence-Transformers. Контекст ограничен 512 токенами. Лицензия в предоставленных данных не указана.
alexakkol/BAAI-bge-base-en-nowr-1-2 — модель эмбеддингов на базе BERT, опубликованная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 384, пригодные для семантического поиска, кластеризации и сравнения текстов. Модель обучалась с MultipleNegativesRankingLoss и косинусной мерой сходства; поддерживает контекст до 512 токенов и содержит около 40 млн параметров. Модель рассчитана на получение текстовых эмбеддингов для поиска по смыслу и группировки текстов. В метаданных указаны sentence-similarity и feature-extraction; при этом название репозитория указывает на вариант без русского языка, но README не подтверждает языковой охват. Файлы модели представлены в safetensors. Лицензия в предоставленных данных не указана.
rjnClarke/BAAI-bge-large-en-v1.5-fine-tuned — англоязычная модель Sentence Transformers, дообученная на базе BAAI/bge-large-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерности 1024 для сравнения семантической близости и поиска по текстам. Архитектура включает BERT, пулинг CLS-токена и нормализацию векторов; сходство можно оценивать косинусной мерой. Модель рассчитана на семантический поиск, поиск перефразировок, кластеризацию и классификацию текста. Максимальная длина последовательности — 512 токенов. В карточке приведена оценка на задаче информационного поиска, но её результаты зависят от набора данных и не гарантируют качество на других корпусах. Лицензия — Apache-2.0.
Это кросс-энкодерный реранкер семейства BGE, опубликованный пользователем onzi-suba и основанный на BAAI/bge-reranker-base. Модель оценивает релевантность пары «запрос — документ» и помогает упорядочить результаты поиска; она предназначена, в частности, для повышения качества поиска в RAG-системах. В метаданных указаны архитектура XLM-RoBERTa для классификации последовательностей, около 305,2 млн параметров и контекст до 514 токенов. Исходная модель BGE Reranker Base рассчитана на английский и китайский языки; она выдаёт оценку релевантности вместо эмбеддинга. Поиск и метаданные не подтверждают отдельную лицензию или условия использования именно этой копии.
flaglow/BAAI-bge-reranker-v2-m3-mlx-fp16 — MLX-совместимая версия модели BAAI/bge-reranker-v2-m3, разработанной Beijing Academy of Artificial Intelligence (BAAI) и подготовленной пользователем flaglow для локального запуска через MLX. Это не генеративная модель общего назначения, а многоязычный reranker для оценки релевантности пары «запрос—документ» и переупорядочивания результатов поиска, например в системах семантического поиска и Retrieval-Augmented Generation. На вход подаются запрос и текстовый фрагмент, на выходе — числовой score релевантности; при необходимости его можно преобразовать в значение от 0 до 1 с помощью sigmoid-функции. Модель содержит около 0,6 млрд параметров и основана на семействе BGE-M3 с архитектурой XLM-RoBERTa; исходная модель позиционируется как multilingual и поддерживает несколько языков, но точный перечень языков для этой производной версии в её карточке не указан. В примерах исходной модели используется ограничение длины входа 512 токенов. Репозиторий flaglow содержит MLX-представление в формате Safetensors; карточка указывает совместимость с MLX и размер около 2,27 ГБ, однако собственная документация производной версии отсутствует, поэтому детали конвертации и фактического числового формата следует проверять по файлам модели. Сильные стороны модели — многоязычное ранжирование, сравнительно небольшой размер и возможность эффективного локального запуска на совместимом оборудовании. Ограничения — модель предназначена для оценки релевантности, а не для самостоятельной генерации ответов; качество зависит от языка, домена и длины входных текстов. Для исходной BAAI/bge-reranker-v2-m3 указана лицензия Apache-2.0; отдельная лицензия производного репозитория flaglow в доступной карточке явно не описана.
bangla-embed-e5-small-mnrl — модель Sentence Transformers, дообученная разработчиком Srimon12 на базе intfloat/multilingual-e5-small для работы с текстами на бенгальском языке. Она преобразует текст в нормализованные плотные эмбеддинги размерности 384; архитектура включает BERT, усредняющий pooling и нормализацию. Максимальная длина входа — 512 токенов, для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска и сопоставления текстов: README также указывает поиск перефразировок, кластеризацию и классификацию по эмбеддингам. При обучении использовались miracl_bn, nli_bn и parse_bn. В приведённой оценке на miracl-bn указаны cosine_accuracy@1 0,91 и cosine_accuracy@10 1,0; это результаты конкретной оценки, а не гарантия качества на других данных. Модель принимает текст и выдаёт векторы. Лицензия — MIT.
Kowshik24/bangla-sentence-transformer-ft-matryoshka — дообученная модель Sentence Transformers на базе shihab17/bangla-sentence-transformer для преобразования предложений и абзацев в плотные векторные представления. Она построена на XLM-RoBERTa с усреднением токенных эмбеддингов и выдаёт векторы размерностью 768; сходство между ними можно оценивать косинусной мерой. Максимальная длина последовательности в README составляет 128 токенов, а метаданные указывают контекст до 514 токенов. Модель предназначена для семантического поиска, сравнения предложений, поиска перефразирований, кластеризации и классификации текста. Matryoshka-обучение позволяет усекать эмбеддинги до меньших размерностей: README приводит результаты поиска для векторов размером 768, 512, 256, 128 и 64. В карточке указан бенгальский язык; описание базовой модели в каталоге также отмечает английский. Лицензия — Apache-2.0.
facebook/bart-large-mnli — контрольная точка BART-large от Facebook, дообученная на датасете MultiNLI для распознавания отношений логического следования между текстами. Модель применяют для классификации без заранее заданного набора классов: исходный текст рассматривается как предпосылка, а для каждой кандидатной метки формируется гипотеза, например «Этот текст о политике». Вероятности следования и противоречия преобразуются в оценки меток. Модель подходит для тематической классификации, маршрутизации текстов по пользовательским категориям и других задач, где нужно оценить соответствие текста произвольным меткам. Архитектура — BART-large с классификатором последовательностей, размер — 252,8 млн параметров, контекст — до 1024 токенов. Репозиторий содержит варианты PyTorch, Flax и Safetensors. Лицензия — MIT. Качество зависит от формулировки кандидатных меток и гипотез, а также от того, насколько задача соответствует обучению на MNLI; оценки модели не гарантируют правильную классификацию. Для нескольких одновременно верных меток предусмотрен режим независимой оценки каждого класса.
Карточка модели katanemo/bart-large-mnli на Hugging Face совпадает с карточкой facebook/bart-large-mnli, поэтому описание составлено по ней. facebook/bart-large-mnli — контрольная точка BART-large от Facebook, дообученная на датасете MultiNLI для распознавания отношений логического следования между текстами. Модель применяют для классификации без заранее заданного набора классов: исходный текст рассматривается как предпосылка, а для каждой кандидатной метки формируется гипотеза, например «Этот текст о политике». Вероятности следования и противоречия преобразуются в оценки меток. Модель подходит для тематической классификации, маршрутизации текстов по пользовательским категориям и других задач, где нужно оценить соответствие текста произвольным меткам. Архитектура — BART-large с классификатором последовательностей, размер — 252,8 млн параметров, контекст — до 1024 токенов. Репозиторий содержит варианты PyTorch, Flax и Safetensors. Лицензия — MIT. Качество зависит от формулировки кандидатных меток и гипотез, а также от того, насколько задача соответствует обучению на MNLI; оценки модели не гарантируют правильную классификацию. Для нескольких одновременно верных меток предусмотрен режим независимой оценки каждого класса.
bce-reranker-base_v1 — модель переранжирования текстовых фрагментов из семейства BCEmbedding, разработанного командой Youdao. Она предназначена для второго этапа поиска: после первичного отбора документов модель оценивает релевантность пар «запрос — фрагмент» и упорядочивает результаты, помогая отобрать наиболее полезные материалы для RAG-систем, вопросно-ответных приложений и поиска по документам. Модель построена на архитектуре XLM-RoBERTa как плотный классификатор последовательностей; в репозитории указано 305,2 млн параметров, формат весов — PyTorch, контекст — 514 токенов. README заявляет поддержку китайского, английского, японского и корейского языков, включая межъязыковое ранжирование. Для длинных фрагментов в BCEmbedding предусмотрена специальная предварительная обработка. Модель также выдаёт оценку релевантности, которую можно использовать для фильтрации слабых совпадений. Рекомендуемый сценарий — передавать ей десятки или сотню кандидатов, найденных моделью первичного поиска, и затем выбирать несколько лучших. Она не генерирует ответы и сама по себе не заменяет этап извлечения документов. Указанная лицензия — Apache-2.0.
BERTA — модель для получения эмбеддингов предложений на русском и английском языках. Согласно карточке, её разработал sergeyzh методом дистилляции эмбеддингов ai-forever/FRIDA в sergeyzh/LaBSE-ru-turbo. Это плотная модель семейства BERT с 155,5 млн параметров; размер эмбеддинга — 768, контекст — до 512 токенов. Модель предназначена для сравнения семантической близости текстов, поиска и других задач на эмбеддингах. Карточка также приводит результаты для распознавания перефразирования, вывода по тексту, анализа тональности и выявления токсичности. Для большинства задач задан префикс «categorize_entailment: »; также доступны унаследованные от FRIDA префиксы для запросов и документов. Используется mean pooling вместо CLS pooling. В бенчмарке ruMTEB BERTA показывает результаты, близкие к FRIDA, но в приведённых таблицах уступает ей по указанным метрикам классификации и кластеризации. Модель принимает текст и выдаёт векторы эмбеддингов. Лицензия — MIT.
bert-base-1024-biencoder-6M-pairs — двуэнкодерная модель на базе BERT от MosaicML, предназначенная для преобразования предложений и абзацев в плотные векторы размерности 768. Она подходит для семантического поиска, кластеризации текстов и поиска документов или фрагментов по смыслу. Модель обучалась на парах текстов; в метаданных перечислены обучающие наборы, включая MS MARCO, Natural Questions, SNLI и MultiNLI. Модель содержит 136,7 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch. Карточка указывает английский язык. Лицензия в предоставленных данных не указана.
Модель gchhablani/bert-base-cased-finetuned-qqp разработана на основе bert-base-cased и дообучена для классификации пар вопросов на наборе GLUE QQP. Она использует архитектуру BERT для классификации последовательностей и предназначена для определения того, задают ли два вопроса одно и то же по смыслу. В README приведены результаты на оценочной выборке: accuracy 0,9084, F1 0,8768 и объединённая оценка 0,8926. Модель содержит 135,5 млн параметров, принимает текстовые пары и поддерживает контекст до 512 токенов. Основной сценарий — выявление дубликатов вопросов, например, в поиске или при очистке базы вопросов и ответов. Указана лицензия Apache-2.0.
Charul1223/bert-base-cased-on-sts — модель на базе BERT, опубликованная пользователем Charul1223. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, кластеризации и семантического поиска. Модель обучалась с функцией потерь CosineSimilarityLoss и рассчитана на использование с библиотекой Sentence-Transformers или через Transformers с соответствующей операцией pooling. Модель содержит 135,5 млн параметров, принимает текст и формирует векторные представления; максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch. Язык и лицензия в предоставленных данных не указаны.
Это Sentence Transformer на базе google-bert/bert-base-multilingual-uncased, дообученный авторами репозитория на наборе из 10 200 пар текстов. Модель использует архитектуру BERT с усреднением токенных представлений и кодирует предложения и абзацы в плотные векторы размерностью 768; сходство можно оценивать косинусной метрикой. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Многоязычные возможности унаследованы от базового BERT, обученного для 102 языков; примеры обучающих данных в карточке приведены на вьетнамском. Метаданные указывают библиотеку Sentence Transformers и формат Safetensors. Лицензия в предоставленных данных не указана.