I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейКарточка модели Morgan9803/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.
Карточка модели ratsheadhug/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.
leewaay/klue-roberta-large-klueSTS-cross — кросс-энкодер на базе KLUE RoBERTa Large, дообученный Вонсёком Ли на наборе KLUE STS для оценки сходства корейских предложений. Модель принимает пару текстов и напрямую вычисляет оценку их семантического сходства, поэтому подходит для сравнения фраз и ранжирования кандидатов по релевантности. Модель также можно применять для переранжирования результатов поиска и разметки пар предложений при подготовке данных для SBERT. Архитектура — RoBERTa для классификации последовательностей, размер — 435,4 млн параметров, контекст — до 514 токенов. Репозиторий содержит веса PyTorch и SafeTensors. В метаданных указан корейский язык. Лицензия в предоставленных данных не описана.
thumbCrush/ko-sroberta-base-longformer — дообученная модель Sentence Transformers на базе cateto/longformer-ko-sroberta-multitask-23040. Она использует архитектуру RoBERTa с усреднением токенных представлений и преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения по косинусному сходству. Модель содержит 137,8 млн параметров и рассчитана на длинный контекст: метаданные указывают 23 042 токена, а README — максимальную длину последовательности 10 000 токенов. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текстов. Название и базовая модель указывают на ориентацию на корейский язык; отдельные языки в метаданных не перечислены. Модель принимает текст и выдаёт векторы, пригодные для поиска и сравнения. Лицензия в предоставленных данных не указана.
jhgan/ko-sroberta-multitask-mrl — корейская модель эмбеддингов предложений на базе RoBERTa, дообученная автором с использованием Matryoshka Representation Learning. Она создаёт векторы размерности 768; первые 512, 256, 128, 64 или 32 компонента также служат представлениями предложений, позволяя уменьшать объём хранения и задержку с возможной потерей точности. Модель обучена на KorNLI и KorSTS в многозадачном режиме и предназначена для сравнения семантической близости корейских предложений и других задач поиска по эмбеддингам. В тестах KorSTS для полного вектора показана корреляция Спирмена 85,07% при косинусном сходстве; для 512 измерений — 85,00%. Модель содержит 137,8 млн параметров, использует архитектуру RoBERTa, реализована для sentence-transformers и поддерживает контекст до 514 токенов. Лицензия — CC-BY-SA-4.0.
LaBSE (Language-agnostic BERT Sentence Encoder) — многоязычная модель на архитектуре BERT, представленная Google и перенесённая из версии v2 на TensorFlow Hub в формат PyTorch для Hugging Face. Модель содержит 498,1 млн параметров и формирует векторные представления предложений для 109 языков; контекст ограничен 512 токенами. Предобучение сочетает маскированное языковое моделирование и моделирование перевода. LaBSE предназначена для сопоставления предложений между языками и поиска соответствующих текстов в двуязычных корпусах. Её можно применять для мультиязычного поиска, поиска семантически близких фраз и построения систем поиска по тексту. Репозиторий предоставляет веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache-2.0.
danfeg/LaBSE_Finetuned-AR-1500 — модель эмбеддингов предложений на базе архитектуры BERT, дообученная для сопоставления семантически близких текстов. Она преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска и кластеризации. Модель содержит 498,1 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Модель можно применять для поиска похожих фраз, группировки текстов по смыслу и оценки семантического сходства. В README указано обучение с CosineSimilarityLoss. Лицензия и конкретный набор поддерживаемых естественных языков в предоставленных данных не описаны.
LB Reranker v1.0 — компактная модель-реранжировщик, разработанная Питером Девайном для Lightblue. Она оценивает соответствие текста запросу и предназначена для ранжирования результатов поиска и других систем извлечения информации. Модель дообучена на базе Qwen/Qwen2.5-0.5B-Instruct и построена как плотная причинная языковая модель Qwen2 с 494 млн параметров и контекстом до 32 768 токенов. На вход подаются запрос и текстовый фрагмент, а на выходе модель генерирует оценку от «1» до «7». Она обучалась на данных более чем на 95 языках; метаданные также отмечают поддержку широкого набора языков, включая английский, китайский, испанский, немецкий и русский. Модель рассчитана на применение в многоязычном поиске и может ранжировать фрагменты кода; авторы сообщают о результатах оценки на наборе BEIR и о высокой точности ранжирования кода. Формат причинной языковой модели позволяет запускать её через распространённые средства инференса, включая vLLM и LMDeploy. Модель распространяется под лицензией Apache-2.0. Результаты зависят от языка, домена и формулировки запроса; README описывает оценку на первых 250 запросах девяти наборов BEIR и не приводит универсальных гарантий качества.
LLM2Vec-Meta-Llama-3-8B-Instruct-mntp — текстовый энкодер на основе decoder-only LLM Meta Llama 3 Instruct с 8 млрд параметров, разработанный исследовательской группой McGill-NLP. Модель создана по методике LLM2Vec, которая преобразует авторегрессионные языковые модели в двунаправленные энкодеры: включает двунаправленное внимание и обучение с маскированием следующего токена (MNTP). Репозиторий проекта и описание метода опубликованы McGill-NLP. Модель предназначена для получения векторных представлений текстов и их семантического сравнения. Основные сценарии включают поиск и извлечение релевантных документов, reranking, классификацию, кластеризацию, оценку семантического сходства и задачи text embedding. Запросы можно кодировать с инструкциями, а для документов инструкции не требуются; сходство представлений можно вычислять, например, по косинусной близости. В README явно указан английский язык. В примере используется усредняющее pooling и максимальная длина 512 токенов. Сильной стороной модели является адаптация мощной инструкционной LLM к задачам универсального текстового кодирования без перехода на отдельную encoder-архитектуру; методика также допускает дальнейшее fine-tuning. Ограничения связаны с указанной языковой специализацией на английском, зависимостью от custom code и PEFT-компонентов при загрузке, а также с вычислительными требованиями модели размером 8B. README не приводит подробных результатов бенчмарков или полного описания поддерживаемого контекста. Лицензия модели — MIT.
McGill-NLP/LLM2Vec-Mistral-7B-Instruct-v2-mntp — модель для преобразования decoder-only языковой модели Mistral 7B Instruct v2 в текстовый энкодер. Подход LLM2Vec использует двунаправленное внимание, masked next token prediction (MNTP) и, при необходимости, последующее контрастивное дообучение. В данном варианте указана загрузка MNTP-адаптера через PEFT. Модель предназначена для получения векторных представлений текста и задач семантического поиска, сопоставления запросов и документов, reranking, классификации, кластеризации и оценки семантического сходства. В README приведён сценарий поиска релевантных passages по веб-запросу с вычислением cosine similarity; для запросов могут использоваться инструкции, а для документов инструкции не требуются. Указан английский язык. Архитектурной основой является Mistral 7B Instruct v2; точный размер контекста в карточке не указан, однако в примере кодирования используется max_length=512. Сильной стороной является применение крупной instruction-tuned LLM для построения эмбеддингов и поддержка широкого спектра задач обработки текста. Ограничения включают ориентацию на английский язык, необходимость загрузки специализированного кода и MNTP-адаптера, а также значительные вычислительные требования, связанные с моделью класса 7B. Лицензия — MIT.
LLM2Vec-Mistral-7B-Instruct-v2-mntp-unsup-simcse — модель для получения текстовых эмбеддингов на основе Mistral-7B-Instruct-v2, представленная организацией или исследовательской группой McGill-NLP. В репозитории указано, что модель распространяется с использованием PEFT и предназначена для преобразования текста в векторные представления, пригодные для сравнения семантической близости. Модель ориентирована на семантический поиск и информационный retrieval, reranking, классификацию, кластеризацию, оценку текстовой семантической близости и извлечение признаков. В README заявлен английский язык и приведены результаты на наборах MTEB, включая задачи классификации, поиска, кластеризации, reranking и STS. Архитектура основана на модели класса Mistral с 7 млрд параметров; сведения о поддерживаемых модальностях, размере контекста и точных процедурах инференса не указаны. Сильная сторона — универсальность эмбеддингов для широкого спектра задач обработки текста; ограничения, включая качество на других языках и зависимость результатов от конкретного домена, требуют дополнительной проверки. Лицензия — MIT.
Distilled MetaCLIP 2 ViT-S/16 (mT5 Tokenizer) — мультиязычная модель сопоставления изображений и текста от Meta, представленная в работе «MetaCLIP 2: A Worldwide Scaling Recipe». Этот чекпойнт соответствует варианту ViT-S-16-mT5-worldwide из оригинальной реализации и предназначен для классификации изображений по текстовым описаниям без дополнительного обучения. Модель принимает изображения и текстовые метки или описания, сопоставляет их и позволяет выбирать наиболее подходящие варианты. В карточке указана архитектура ViT-S/16 и токенизатор mT5; репозиторий распространяет веса в формате safetensors и предназначен для работы через Transformers. Лицензия — CC BY-NC 4.0, допускающая использование с ограничением на коммерческое применение.
MetaCLIP L14-400M — модель семейства CLIP, разработанная командой MetaCLIP и представленная в репозитории facebook. Это крупная версия с разрешением патчей 14, обученная на 400 миллионах примеров CommonCrawl. Модель представлена в формате PyTorch и предназначена для сопоставления изображений и текстов в общем пространстве представлений. Модель подходит для классификации изображений по текстовым описаниям без дополнительного обучения, поиска изображений по текстовому запросу и поиска текста по изображению. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. README не приводит конкретных сведений о языках или длине контекста.
yjoonjang/MIMO-mmBERT-base — многоязычная модель Sentence Transformer, дообученная на базе jhu-clsp/mmBERT-base для получения векторных представлений предложений и абзацев. Она использует энкодер ModernBERT с усредняющим пулингом токенов и создаёт плотные эмбеддинги размерности 768, которые можно сравнивать по косинусному сходству. По карточке модели, максимальная длина последовательности составляет 256 токенов; метаданные указывают контекст до 8192 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. В README приведены оценки поиска на NanoMIRACL для арабского, немецкого, английского, испанского, французского, хинди, индонезийского, японского, русского и китайского языков. Лицензия в предоставленных данных не указана.
ajaysdhillon14/minbert-sts-nli-meanpool — кодировщик предложений на основе bert-base-uncased, дообученный в два этапа для оценки семантического сходства. Сначала модель обучалась на задаче распознавания текстового следования на парах SNLI и MultiNLI, затем дообучалась на STS. Архитектура — BERT, около 99,1 млн параметров; модель хранит только кодировщик, без отдельной головы классификации. Для каждого предложения модель строит вектор с помощью masked mean pooling скрытых состояний, включая позиции [CLS] и [SEP]. Сходство двух предложений вычисляется как косинусная близость векторов, линейно преобразованная из диапазона [-1, 1] в оценку [0, 5]. На dev-наборе STS-B для трёх запусков указаны значения Pearson 0,7432–0,7436 и Spearman 0,7411–0,7460. Модель предназначена для английских текстов. Лицензия — Apache-2.0.
Многоязычная модель Sentence Transformer, дообученная на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 для получения векторных представлений предложений и абзацев. Архитектура основана на BERT; модель содержит 124,3 млн параметров и формирует плотные векторы размерности 384. README указывает максимальную длину последовательности 128 токенов, а метаданные — контекстное окно 512 токенов. Модель предназначена для семантического поиска и сравнения текстов по косинусному сходству, поиска перефразирований, кластеризации и классификации текста. При обучении использовались 101 072 примера и MultipleNegativesRankingLoss. Модель поддерживает множество языков благодаря многоязычной базовой модели; языки в карточке отдельно не перечислены. Веса опубликованы в формате safetensors и используются через библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.
narraticlabs разработала MiniLM-L6-european-union — компактную модель Sentence Transformers на архитектуре BERT, полученную дистилляцией paraphrase-MiniLM-L12 и сокращением до 6 слоёв. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для сравнения смысла и поиска семантически похожих текстов. Модель подходит для семантического поиска и кластеризации текстов на языках Европейского союза. Модель содержит 110,2 млн параметров, принимает текст и имеет контекстное окно 512 токенов. В метаданных перечислена поддержка английского, немецкого, французского, испанского, итальянского, нидерландского, польского, португальского, венгерского, румынского, шведского, датского, финского, чешского, греческого, болгарского, хорватского, эстонского, латышского, литовского, мальтийского, словацкого и словенского языков. Репозиторий использует формат safetensors; лицензия — Apache-2.0.
Карточка модели rethem-expeditecommerce/MiniLM-L6-GPL на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.
gomyk/minilm-student-L6_uniform_distilled — компактный многоязычный кодировщик предложений, созданный автором на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Модель использует архитектуру MiniLM с сокращением числа слоёв с 12 до 6 и уменьшенным словарём; в README указана размерность скрытого представления 384, а метаданные указывают 28,9 млн параметров и контекст до 512 токенов. Для дистилляции применялись потери MSE и косинусного сходства на данных задач классификации, кластеризации и семантического сходства. Модель предназначена для получения векторных представлений предложений, оценки их семантического сходства, кластеризации и классификации текстов. Она поддерживает 18 языков, включая русский и английский. В опубликованных результатах MTEB указаны средние показатели 56,93% в целом и 71,48% для STS; результаты зависят от языка и задачи. Модель выпущена под лицензией Apache-2.0.
Muzian/minimind-embedding-moe — компактная модель для получения текстовых эмбеддингов, разработанная на базе MiniMind-3-MoE. Это причинный декодер с четырьмя экспертами и маршрутизацией top-1: всего 198 млн параметров, из которых для каждого токена активны около 64 млн. Обучение использует рецепт Qwen3-Embedding: pooling по последнему токену, контрастивную функцию InfoNCE с маскированием ложных негативов и MRL для получения эмбеддингов разной размерности. Модель предназначена для сравнения семантической близости текстов и поиска по смыслу; заявленный контекст — 32 768 токенов. В README приведены результаты на китайском бенчмарке C-MTEB STS, где MoE-версия уступает плотной MiniMind-Embedding на 0,056 в среднем. Метаданные указывают китайский и английский языки. Модель опубликована в формате safetensors, для использования предлагается библиотека Sentence Transformers. Лицензия — Apache-2.0.
Карточка модели NostraEmpire/mirror-mxbai-embed-large-v1 на Hugging Face совпадает с карточкой mixedbread-ai/mxbai-embed-large-v1, поэтому описание составлено по ней. mxbai-embed-large-v1 — модель Mixedbread AI для построения векторных представлений предложений и текстов. Это плотная BERT-модель на 433,9 млн параметров с контекстом до 512 токенов; она принимает текст и выдаёт эмбеддинги для поиска и сопоставления текстов. Карточка указывает английский язык и библиотеку sentence-transformers. Модель предназначена для семантического поиска, извлечения релевантных фрагментов и оценки сходства предложений. Для поисковых запросов README рекомендует добавлять префикс «Represent this sentence for searching relevant passages:». Поддерживаются Matryoshka Representation Learning и бинарная квантизация, позволяющие уменьшать размер эмбеддингов и затраты на их хранение. В заявленной авторами оценке на MTEB модель показывает сильные результаты среди моделей размера BERT-large. Модель распространяется по лицензии Apache-2.0. Ограничения включают окно контекста в 512 токенов и необходимость использовать рекомендованный префикс для запросов в сценариях поиска; авторы также отмечают наличие ограничений, которые планировали исправить в версии v2, не уточняя их в этой карточке.
avsolatorio/MixEmbed-base-20240110184818-best — компактная модель эмбеддингов предложений на архитектуре BERT, представленная в формате safetensors и предназначенная для Sentence-Transformers и Hugging Face Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска и кластеризации; также подходит для вычисления сходства между текстами. В README указано, что модель дистиллирована из bge-small-en-v1.5, содержит четверть числа параметров без учёта эмбеддингов по сравнению с этой базой и показывает качество, сопоставимое с all-MiniLM-L6-v2 при вдвое меньшем числе параметров. Модель содержит 18,8 млн параметров и принимает контекст до 512 токенов. README описывает её как англоязычную модель, созданную на основе bge-small-en-v1.5. Лицензия в предоставленных данных не указана.
avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240122220725-latest на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240122220746-best на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240122220746-latest на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240122235004-best на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240122235004-latest на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.
avsolatorio/MixEmbedMean-base-20240116001529-best — компактная модель эмбеддингов предложений на архитектуре BERT, опубликованная 16 января 2024 года. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и предназначена для поиска по смыслу, кластеризации и сравнения текстов. Размер модели — 18,8 млн параметров, максимальная длина контекста — 512 токенов; для работы доступны веса в формате safetensors и библиотека Sentence-Transformers. Согласно README, модель дистиллирована из BAAI/bge-small-en-v1.5 и имеет вчетверо меньше параметров, не относящихся к эмбеддингам, чем исходная модель. В README также отмечено, что при примерно половине параметров all-MiniLM-L6-v2 она показывает сопоставимое качество. Английский язык следует из базовой модели bge-small-en-v1.5; подтверждений поддержки других языков нет. Лицензия в предоставленных данных не указана.
Карточка модели onelevelstudio/ML-E5-0.3B на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.