I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейko-reranker-8k — модель для переранжирования текстов, разработанная Upskyy на основе BAAI/bge-reranker-v2-m3 и дообученная на корейских данных. Она оценивает релевантность пары «запрос — документ»: чем выше оценка, тем релевантнее документ запросу. Модель построена на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров, принимает текст и поддерживает контекст длиной до 8194 токенов. Модель предназначена для улучшения результатов поиска и retrieval-систем, в том числе для отбора наиболее подходящих документов после первичного поиска. Карточка указывает корейскую настройку и многоязычные теги; лицензия — Apache-2.0. В README приведены способы использования через FlagEmbedding и Transformers.
daekeun-ml/KoSimCSE-supervised-roberta-large — корейская модель для построения эмбеддингов предложений на основе SimCSE и архитектуры RoBERTa-large. Она обучена с учителем на данных NLI и предназначена для сравнения смысловой близости текстов, поиска похожих предложений и использования в системах семантического поиска. В README приведены результаты оценки KoSimCSE на KLUE-STS и Kor-STS; таблицы для варианта supervised RoBERTa-large неполны, поэтому отдельные показатели этой модели подтвердить нельзя. Модель принимает текст и выдаёт векторные представления. Обучение описано для корейских наборов KLUE-NLI и Kor-NLI; метаданные также указывают язык ko. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.
ko-sroberta-multitask — корейская модель эмбеддингов предложений на базе архитектуры RoBERTa, опубликованная jhgan. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель содержит 137,8 млн параметров и принимает контекст до 514 токенов. Модель обучалась в режиме нескольких задач на наборах KorSTS и KorNLI; в README приведены результаты оценки на KorSTS. Она предназначена прежде всего для корейского языка. Для использования в Transformers поверх выходов модели требуется применить подходящую операцию pooling; доступны форматы PyTorch, TensorFlow, ONNX и OpenVINO. Сведения о лицензии в предоставленных материалах отсутствуют.
jhgan/ko-sroberta-nli — модель эмбеддингов предложений на основе RoBERTa, опубликованная пользователем jhgan. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для оценки семантического сходства, поиска по смыслу и кластеризации текстов. Модель обучалась на наборе KorNLI с функцией потерь MultipleNegativesRankingLoss и оценивалась на KorSTS; README приводит результаты корреляции Пирсона и Спирмена для нескольких способов сравнения векторов. Модель содержит 137,8 млн параметров, использует архитектуру RobertaModel и поддерживает контекст до 514 токенов. Доступны форматы PyTorch и TensorFlow. Карточка указывает корейский язык; лицензия в предоставленных данных не приведена.
bongsoo разработал kpf-sbert-v1.1 — модель Sentence Transformers на базе BERT, дообученную для получения плотных векторов предложений и абзацев размерностью 768. Она предназначена для поиска семантически похожих текстов, семантического поиска и кластеризации. В README описано обучение на корейских и английских наборах STS и NLI, а также дистилляция с учительской модели paraphrase-multilingual-mpnet-base-v2. Модель оценивает сходство по векторным представлениям; заявленная длина контекста — 512 токенов. Модель подходит прежде всего для корейского и английского текста. Метаданные указывают 141,2 млн параметров и формат PyTorch. README приводит сравнительные результаты на наборах korsts, klue-sts, GLUE STS-B и stsb_multi_mt, однако полная строка результатов для этой модели в доступном тексте отсутствует. Сведения о лицензии в предоставленных источниках отсутствуют.
snunlp/KR-SBERT-Medium-klueNLItriplet_PARpair-klueSTS — модель Sentence Transformer от SNUNLP на архитектуре BERT, дообученная на корейском датасете klue/klue. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для сравнения семантической близости по косинусному сходству. Максимальная длина входа — 512 токенов. Модель предназначена для оценки сходства корейских текстов и может применяться для семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В README приведена оценка Spearman cosine 0,869 на sts-dev. Модель принимает текст и выдаёт векторы; её карточка не указывает лицензию.
KR-SBERT-V40K-klueNLI-augSTS — модель семейства Sentence-BERT на архитектуре BERT, представленная SNUNLP. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантического сходства, поиска по смыслу и кластеризации. Модель также подходит для классификации документов; в приведённом в карточке сравнении она достигла точности 0,8628. Модель содержит 144 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов. Карточка и метаданные указывают корейский язык. Для применения доступны веса PyTorch и библиотека Sentence-Transformers. Лицензия в предоставленных данных не указана.
lingtrain/labse-chuvash — дообученная модель Sentence Transformer на базе sentence-transformers/LaBSE, предназначенная для построения эмбеддингов предложений и абзацев. Она кодирует текст в плотные векторы размерности 768 и сравнивает их косинусным сходством; обучение проводилось на миллионе пар предложений с функцией MultipleNegativesRankingLoss. Модель рассчитана на семантический поиск и сопоставление смыслов, в том числе для чувашских текстов и пар чувашский—русский. Её можно применять для поиска похожих предложений, выявления перефразирований, кластеризации и классификации текстов на основе эмбеддингов. Архитектура — BERT; метаданные указывают контекст до 512 токенов, тогда как карточка модели задаёт максимальную длину последовательности 256 токенов, поэтому на практике следует учитывать ограничение модели в используемой конфигурации. Модель принимает текст и выдаёт векторы; лицензия в предоставленных данных не указана. Она не генерирует текст и качество за пределами чувашского и русско-чувашских примеров карточки не охарактеризовано.
LaBSE-EnKo-Nano-Preview-v0.3 — предварительная модель Sentence Transformers, дообученная автором lemon-mint на sentence-transformers/LaBSE. Она кодирует предложения и абзацы на английском и корейском языках в плотные векторы размерности 768; сходство текстов предлагается оценивать косинусной мерой. Архитектура основана на BERT и включает пулинг CLS-токена, полносвязный слой с Tanh и нормализацию. Максимальная длина последовательности в метаданных — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации по эмбеддингам. Лицензия — Apache-2.0. Автор отмечает, что это предварительная версия и планирует выпустить более качественные модели, поэтому качество на конкретных данных стоит проверить перед широким применением.
LaBSE, дообученная командой Lingtrain на парах предложений на русском и ингушском языках. Модель построена на архитектуре BERT и Sentence-Transformers и преобразует предложения и абзацы в плотные векторы размерности 768; заявленный размер модели — 498,1 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для сопоставления русских и ингушских текстов в общем векторном пространстве. Её можно применять для семантического поиска, сравнения предложений и кластеризации. Репозиторий содержит веса PyTorch и safetensors. Лицензия в предоставленных данных не указана.
LaBSE-mari — модель на базе BERT, разработанная путём дообучения LaBSE на парах предложений на русском и марийском языках. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сопоставления смысла текстов, семантического поиска и кластеризации. Обучение с MultipleNegativesRankingLoss нацелено на сближение векторных представлений соответствующих пар. Модель подходит для поиска марийских соответствий русским запросам и для группировки текстов по смыслу. Архитектура BERT принимает текст, контекст составляет 512 токенов. Репозиторий распространяет веса в форматах PyTorch и Safetensors. Условия лицензии в предоставленных данных не указаны.
Blaxzter/LaBSE-sentence-embeddings — копия setu4993/LaBSE с выдачей векторных представлений предложений через pooler_output и кэшированием. Это мультиязычная модель на архитектуре BERT, предназначенная для получения сопоставимых эмбеддингов предложений на 109 языках и поиска соответствующих фрагментов между языками. В метаданных указаны 498,1 млн параметров и контекст до 512 токенов; доступны веса в форматах PyTorch, TensorFlow и Flax. Модель подходит для межъязыкового поиска по предложениям и сравнения их семантического сходства, в том числе в многоязычных коллекциях. Обучение исходной LaBSE сочетало masked language modeling и translation language modeling; данная копия также реализует кэширование эмбеддингов. Лицензия — Apache-2.0. Возможности зависят от поддерживаемых языков и качества исходного текста; README не приводит метрик этой копии.
redis/langcache-embed-v1 — модель Sentence Transformers, разработанная для Redis и дообученная на Alibaba-NLP/gte-modernbert-base на датасете Quora. Она преобразует предложения и абзацы в плотные эмбеддинги размерности 768 и сравнивает их с помощью косинусного сходства; модель предназначена для семантического сопоставления текстов и семантического кэширования, например для поиска похожих запросов и повторного использования кэшированных ответов. Архитектура основана на ModernBERT с пулингом CLS-токена, максимальная длина последовательности — 8192 токена. В метаданных указаны форматы safetensors, ONNX и OpenVINO. В README приведены результаты бинарной классификации на Quora: точность по cosine accuracy 0,90 и F1 0,87. Эти показатели относятся к описанной оценке и не гарантируют такого же качества на других данных. Поддержка языков отдельно не заявлена; датасет Quora и базовая модель указывают на ориентацию прежде всего на английский язык. Условия лицензии в предоставленных данных не указаны.
Redis разработала эту модель Cross-Encoder для оценки пар текстов в сценариях семантического кэширования LangCache. Она дообучена на Alibaba-NLP/gte-reranker-modernbert-base с использованием библиотеки sentence-transformers и датасета LangCache Sentence Pairs. Модель принимает пару текстов и возвращает оценку их соответствия, которую можно использовать для классификации пар и переранжирования результатов поиска. Модель построена на ModernBERT, имеет 149 млн параметров и максимальную длину последовательности 8192 токена. Она рассчитана на английский язык. В README приведены результаты оценки классификации и переранжирования на тестовых наборах, однако результаты на наборах NanoQuoraRetrieval, NanoMSMARCO и NanoNQ ниже показателей базовой модели. Модель распространяется по лицензии Apache-2.0.
redis/langcache-reranker-v2-mnrl — англоязычный Cross-Encoder, разработанный Redis и дообученный на базе Alibaba-NLP/gte-reranker-modernbert-base с использованием библиотеки Sentence Transformers. Модель принимает пары текстов и оценивает их релевантность; её обучали на парах LangCache, чтобы использовать в семантическом кэшировании и ранжировании результатов поиска. Модель основана на ModernBERT, содержит 149 млн параметров и поддерживает последовательности длиной до 8192 токенов. Она предназначена для английского языка и выдаёт оценку для одной пары текстов, которую можно использовать при классификации пар или переранжировании кандидатов в поиске и RAG. Модель не генерирует ответы и не формирует эмбеддинги: для оценки нескольких документов требуется отдельно подать каждую пару «запрос — документ». Карточка указывает лицензию Apache-2.0.
LanguageBind_Video_Huge_V1.5_FT — видеотекстовая модель проекта LanguageBind, разработанная авторами исследования LanguageBind, принятого на ICLR 2024. Это полностью дообученная версия видеокодировщика LanguageBind; суффикс Huge указывает на вариант увеличенного размера, но точное число параметров в предоставленных данных не приведено. Модель предназначена для сопоставления видеороликов с текстовыми описаниями и zero-shot классификации видео по заданным текстовым меткам. LanguageBind выравнивает представления видео и языка в общем семантическом пространстве, поэтому модель можно применять для поиска видео по тексту и оценки сходства видео с описаниями без отдельного обучения на каждом наборе классов. В основе проекта — обучение на видео- и текстовых данных VIDAL-10M; архитектура репозитория указана как CLIPModel. В карточке Hugging Face основная задача помечена как zero-shot-image-classification, однако README описывает именно видеотекстовое сопоставление. Поддерживаемая метаданными задача сохранена в классификации, а видео и текст отражены как фактические модальности из описания проекта. README не уточняет поддержку конкретных естественных языков. Модель распространяется по лицензии MIT. Указания о длине контекста и количественном размере этой версии в предоставленных данных отсутствуют.
LanguageBind_Video_merge — видеоязыковая модель из семейства LanguageBind, опубликованная авторами проекта LanguageBind. Она относится к архитектуре CLIP и предназначена для сопоставления видео и текста в общем семантическом пространстве, в том числе для классификации видео по текстовым описаниям без специального обучения на целевых классах. Подход LanguageBind использует язык как связующее звено между модальностями; в проекте описаны предварительное обучение на видеотекстовых данных и способы расширения модели на другие модальности. Модель принимает видео и текстовые описания и выдаёт представления, пригодные для оценки их сходства. В карточке указана задача zero-shot-image-classification, однако README описывает именно видеоязыковое сопоставление; конкретные размер модели, длина контекста и поддерживаемые языки в предоставленных данных не приведены. Репозиторий использует формат PyTorch. Лицензия — MIT.
Карточка модели gemasphi/laprador_pt_pb на Hugging Face совпадает с карточкой gemasphi/laprador_pt, поэтому описание составлено по ней. gemasphi/laprador_pt — модель на основе BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для построения эмбеддингов, поиска семантически близких текстов и кластеризации. Модель содержит 79,5 млн параметров, принимает последовательности длиной до 512 токенов и доступна в формате PyTorch. Модель можно использовать через библиотеку Sentence-Transformers или Hugging Face Transformers с подходящей операцией pooling. Она подходит для семантического поиска и группировки текстов по смыслу. README не сообщает языковую специализацию или результаты оценки, поэтому её качество для конкретного языка и предметной области следует проверять отдельно.
laion/larger_clap_music_and_speech — модель CLAP от LAION, улучшенный чекпойнт, специально обученный на парах музыки, речи и текстовых описаний. Она сопоставляет аудио и текст в общем векторном пространстве: аудиокодировщик на основе Swin Transformer обрабатывает логарифмическую Mel-спектрограмму, а текстовый кодировщик RoBERTa формирует текстовые признаки. Размер модели — 132,1 млн параметров. Модель предназначена для извлечения аудио- и текстовых эмбеддингов и классификации аудио без дообучения: по аудиофрагменту можно ранжировать предложенные текстовые метки или описания по сходству. Подходит для поиска музыки и речи по тексту, классификации звуков и сопоставления аудио с описаниями. Лицензия — Apache-2.0. Качество сопоставления зависит от формулировок текстовых кандидатов и обучающих данных; модель оценивает сходство, а не генерирует текст или аудио. README не приводит ограничений по длине аудио или поддерживаемым языкам.
SingularityUS/legal_topic_retriever3 — модель на базе BERT, разработанная SingularityUS для преобразования предложений и абзацев в плотные векторы размерностью 768. Её можно использовать для семантического поиска и кластеризации текстов, в том числе для подбора документов по сходству смыслов. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги. Максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch; для работы предусмотрено использование Sentence-Transformers либо Transformers с соответствующей операцией pooling. Лицензия в предоставленных данных не указана.
LightOn-rerank-LW-0.8B — мультимодальный кросс-энкодерный реранкер компании LightOn на базе Qwen/Qwen3.5-0.8B. Он совместно дообучен на текстовых и визуальных данных для переранжирования кандидатов, уже найденных первым этапом поиска: модель сопоставляет текстовый запрос с фрагментами текста или изображениями страниц документов, например PDF и слайдов. Модель использует генеративное списочное ранжирование: за один запрос она сравнивает четыре кандидата и генерирует их порядок; более крупные наборы обрабатываются скользящим окном. Вес модели составляет около 0,85 млрд параметров, опубликованные веса — bfloat16. Для работы требуется Transformers версии 5.4.0 или выше с поддержкой архитектуры qwen3_5. Модель показывает сильные результаты на визуальном ранжировании ViDoRe V3 с учётом её размера; область применения — прежде всего системы поиска, где важна экономия памяти ускорителя. Обучение проводилось на английских данных. В README заявлен перенос на французский без дополнительного обучения; качество в среднем несколько ниже, чем на английском. Списочный режим имеет более высокую задержку, чем поточечное оценивание, а на фармацевтических документах модель слабее ряда моделей класса 2B. Лицензия — Apache-2.0.
thuan9889/llama_embedding_model_v1 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная пользователем thuan9889. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Модель рассчитана на работу через библиотеку Sentence Transformers; в репозитории представлены веса Safetensors, размер модели — 25,9 млн параметров, контекст — до 512 токенов. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Это подходит для получения векторов, где семантически близкие тексты располагаются рядом, но качество для конкретного языка и предметной области зависит от данных пользователя. Лицензия в предоставленных сведениях не указана.
lod-stor-4B — плотная модель с 4 млрд параметров для оценки вариантов ответа, разработанная mrn-dk на базе Qwen3-4B-Base. Она принимает текстовое состояние и один или несколько вопросов с вариантами и критериями, после чего возвращает вероятности по заданным вариантам и отдельную оценку уверенности, что правильный ответ вообще присутствует в списке. Модель работает без генерации токенов и поддерживает интерфейсы choice, noul для оценки истинности утверждения и score для шкалы от 2 до 10. Модель обучена с LoRA, адаптер слит с базовыми весами; обучение использовало перекрёстную энтропию по частотам исходов. Вопросы и варианты оцениваются независимо, а для 64 лучших вариантов применяется дополнительный слой сравнения. Принимается до 32 768 токенов суммарно за проход; состояние может занимать до 30 720 токенов. Карточка сообщает об английском языке и лицензии Apache-2.0. Модель подходит для выбора из заданных ответов, ранжирования вариантов, проверки утверждений по предоставленному контексту и сценариев селективного предсказания с отказом при низкой уверенности. Качество существенно меняется в зависимости от задачи; вероятности калиброваны в среднем, но могут быть неточны на отдельных задачах. Модель не может выбрать ответ вне списка, а при отсутствии правильного варианта полезна только оценка confidence.
MarcoMancini/low-law-emb — модель iMEmbeddings на базе архитектуры BERT, разработанная Marco Mancini. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для поиска по смыслу и кластеризации. Обучение с MultipleNegativesRankingLoss и косинусным сходством нацелено на получение эмбеддингов, пригодных для сравнения текстов. Модель подходит для построения семантического поиска, группировки похожих фрагментов и других задач сравнения предложений. Максимальная длина контекста составляет 512 токенов; модель работает с текстом и выдаёт векторы. В README нет сведений о лицензии, поэтому условия использования по доступным данным определить нельзя.
lt-wikidata-comp-en — англоязычная модель LinkTransformer, разработанная исследователями Harvard. Это дообученная модель Sentence Transformers на базе multi-qa-mpnet-base-dot-v1, с архитектурой MPNet и 136,7 млн параметров. Она кодирует предложения и абзацы в плотные векторы размерности 768; максимальная длина последовательности составляет 512 токенов. Модель предназначена прежде всего для сопоставления записей и сущностей по названиям и их вариантам, обучена на алиасах компаний из Wikidata. В LinkTransformer её можно применять для связывания записей, дедупликации, кластеризации и агрегации; также она подходит для семантического поиска и других задач сходства предложений в Sentence Transformers. Репозиторий содержит веса в формате safetensors. Карточка не приводит результатов количественной оценки качества, поэтому качество на данных, отличающихся от алиасов компаний из Wikidata, следует проверять отдельно. Лицензия в предоставленных данных не указана.
Lumma-Fev-9B — плотная модель принятия решений семейства FEV от FrontiersMind. Она обрабатывает один документ или состояние, представленное текстом, JSON-объектом либо массивом, и набор типизированных вопросов, возвращая распределение вероятностей для каждого вопроса за один проход. Модель не генерирует текст; доступны ответы форматов yes/no, выбор из вариантов и оценка по упорядоченной шкале. Модель предназначена для классификации и структурированных решений по содержимому документов: например, для присвоения категории, определения эмоции или извлечения ответа на типизированный вопрос. В README приведены результаты на Typed-decisions, AG News и DAIR Emotion, однако они не гарантируют качество на пользовательских данных. Вопросы обрабатываются независимо друг от друга. Репозиторий использует библиотеку Transformers и формат safetensors; точное число параметров в предоставленных сведениях не указано. Лицензия — Apache-2.0. Уверенность и вероятности являются оценками модели, поэтому их калибровку следует проверить на размеченных данных перед использованием для автоматических решений.
LuxEmbedder — модель эмбеддингов предложений на базе LaBSE, представленная авторами работы Philippy et al. (2024). Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель специально адаптирована для люксембургского языка с использованием параллельного набора данных LuxAlign. Она также сопоставляет тексты ещё на 108 языках в общем векторном пространстве, поддерживая многоязычный поиск и сравнение предложений. Архитектура основана на BERT; максимальная длина контекста — 512 токенов. Модель подходит для поиска семантически близких фрагментов и определения сходства или перефразирования, в том числе между языками. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
togethercomputer/m2-bert-80M-2k-retrieval — модель M2-BERT, обученная Jon Saad-Falcon, Dan Fu и Simran Arora. Чекпойнт дообучен для поиска по длинным текстам и рассчитан на последовательности до 2048 токенов. В метаданных указана архитектура M2-BERT с классификационной головой BertForSequenceClassification и 136,7 млн параметров; формат весов — PyTorch. Модель предназначена для оценки сходства предложений и поиска релевантных текстов с длинным контекстом. Её можно применять для поиска документов по запросу и ранжирования кандидатов по релевантности. README рекомендует загружать её через Transformers как AutoModelForSequenceClassification. Лицензия — Apache-2.0. Модель ориентирована на английский язык. Карточка не приводит результатов бенчмарков или конкретных ограничений качества; для задач и языков за пределами заявленного сценария retrieval пригодность следует проверять отдельно.
Это модель M2-BERT, разработанная Джоном Саад-Фалконом, Дэном Фу и Симран Аророй. Чекпойнт содержит около 136,7 млн параметров по метаданным и дообучен для поиска по длинным последовательностям; в README размер семейства обозначен как 80M. Модель принимает текстовые последовательности длиной до 32 768 токенов и предназначена для задач извлечения информации и поиска по длинным документам. Её можно загрузить через Transformers как BertForSequenceClassification; метаданные также указывают поддержку сходства предложений и классификации текста. Модель распространяется в формате PyTorch под лицензией Apache-2.0. Карточка не описывает ограничения качества или языков помимо английского, указанного в метаданных.
M3E-base — двуязычная модель эмбеддингов текста, разработанная и обученная MokaAI. Она кодирует тексты в плотные векторы размерности 768 для поиска семантически близких предложений и извлечения подходящих фрагментов или документов по запросу. Модель основана на архитектуре BERT; карточка указывает около 129,5 млн параметров и контекст до 512 токенов. Для использования предусмотрена библиотека sentence-transformers. Модель обучалась контрастивным обучением на парах китайских предложений, английских триплетах MEDI и наборах инструкций. Она ориентирована прежде всего на китайские сценарии, также поддерживает английский язык. Подходит для семантического поиска, сравнения текстов, поиска повторяющихся вопросов и получения эмбеддингов для классификационных конвейеров. В README приведены результаты оценки на китайских наборах классификации и поиска; это результаты авторских экспериментов и они зависят от данных и настройки. В README указано, что модели M3E открыты, однако конкретная лицензия для этой версии в предоставленных данных не приведена. Заявленная поддержка китайского и английского не означает одинакового качества для любых языков и задач; модель не предназначена для поиска по коду.