I.12Рекомендации и персонализация

Kazakh-E5-RAG-Embedding — модель эмбеддингов текста для поиска и извлечения документов на казахском языке, опубликованная shyngys879. Это плотный двунаправленный кодировщик на архитектуре XLM-RoBERTa, основанный на multilingual-e5-base и KazEmbed-V5; в метаданных указано 305,2 млн параметров, а README описывает базовый размер в 278 млн. Модель преобразует текст в 768-мерные векторы и использует формат E5 с префиксами «query:» для запросов и «passage:» для документов; контекст составляет до 514 токенов. Модель предназначена для семантического поиска, поиска ответов на вопросы и документов, а также извлечения контекста для RAG. Она оптимизирована для сопоставления казахских запросов и фрагментов, включая различение похожих нерелевантных вариантов; README сообщает об оценке на трёх казахских наборах поиска. Поддерживаются казахский и также русский и английский языки по тегам карточки. Для поиска по корпусу Wikipedia в описанных тестах multilingual-e5-base и multilingual-e5-large показали лучшие результаты. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

Это Sentence Transformer на основе корейской модели klue/roberta-base, дообученный для представления предложений и абзацев в виде плотных векторов размерности 768. Архитектура включает RoBERTa с усреднением токенных представлений; сходство векторов оценивается косинусной мерой. Модель содержит 137,8 млн параметров и принимает последовательности длиной до 514 токенов по метаданным (в карточке указано 512). Модель предназначена прежде всего для оценки семантического сходства текстов. Её можно применять для семантического поиска, поиска перефразировок, кластеризации и классификации текстов на корейском языке. В README приведены результаты оценки сходства, однако отдельные наборы данных и контекст метрик описаны неполно. Модель распространяется в формате Safetensors и использует библиотеку Sentence Transformers. Условия лицензии в предоставленных сведениях не указаны.

BM-K/KoSimCSE-roberta-multitask — корейская модель эмбеддингов предложений на архитектуре RoBERTa, опубликованная в репозитории Korean-Sentence-Embedding. Она предназначена для получения векторных представлений текста и семантических задач, включая сравнение смысловой близости предложений. Модель содержит 137,8 млн параметров, принимает последовательности длиной до 514 токенов и доступна в форматах PyTorch и Safetensors. В README приведены результаты оценки на тестовом наборе Semantic Textual Similarity и материалы для обучения и запуска моделей. Модель подходит для поиска семантически похожих предложений, ранжирования текстов по близости и построения систем поиска на основе эмбеддингов. Указанные сведения не подтверждают качество на других задачах или доменах. Лицензия в предоставленных данных не указана.

daekeun-ml/KoSimCSE-unsupervised-roberta-base — корейская модель для получения эмбеддингов предложений, основанная на RoBERTa base и методе SimCSE с контрастивным обучением без разметки. Её можно использовать для сравнения смысловой близости корейских текстов и поиска похожих предложений. В README приведены результаты оценки на KLUE-STS и Kor-STS: для версии RoBERTa base без учителя средние показатели составляют 81,17 и 81,20 соответственно. Репозиторий также описывает обучение SimCSE, включая распределённое обучение и supervised-вариант, но данный чекпойнт обозначен как unsupervised. Размер модели и длина контекста в предоставленных данных не указаны. Лицензия — MIT.

LateOn-regularized — модель LightOn для поиска по текстам в стиле ColBERT, обученная с помощью PyLate на базе LateOn-unsupervised и ModernBERT-base. Это многовекторная модель позднего взаимодействия: она кодирует токены запросов и документов в векторы и сопоставляет их с помощью MaxSim. Модель содержит 149 млн параметров и поддерживает контекст до 8192 токенов; для документов рекомендуется длина до 300 токенов, для запросов — до 32 токенов. При дообучении применена регуляризация Straight-Through Estimator с контрастивной функцией потерь на проекциях MUVERA. Она улучшает совместимость представлений с эффективной генерацией кандидатов через MUVERA и SMVE, сохраняя качество поиска с PLAID. Для MUVERA и SMVE рекомендуется центрировать эмбеддинги. Модель предназначена для англоязычного поиска; лицензия — Apache 2.0.

Карточка модели ronaldmannak/LFM2.5-ColBERT-350M-8bit на Hugging Face совпадает с карточкой mlx-community/LFM2.5-ColBERT-350M-8bit, поэтому описание составлено по ней. LFM2.5-ColBERT-350M-8bit — 8-битная MLX-квантизация многоязычной модели ColBERT от Liquid AI, опубликованная сообществом mlx-community. Модель предназначена для семантического поиска и ранжирования: она кодирует каждый токен вектором размерности 128, а релевантность запроса и документа оценивается методом позднего взаимодействия MaxSim. Число параметров — 443,4 млн, размер контекста — до 128 000 токенов. Репозиторий содержит веса в формате MLX safetensors, квантизированные до 8 бит; README указывает на снижение размера с 707 до 376 МБ относительно bf16 и близкое сохранение качества на приведённых наборах поиска. Модель подходит для локального поиска по текстовым коллекциям на устройствах Apple Silicon. Базовая модель — LiquidAI/LFM2.5-ColBERT-350M; лицензия указана как other, поэтому перед использованием следует проверить условия исходной карточки. Результаты оценки приведены для небольших или сокращённых корпусов и не сопоставимы напрямую с лидербордами полного MIRACL.

MalayalamSBERT — модель семейства BERT, разработанная L3Cube-Pune в рамках проекта MahaNLP и дообученная на наборе данных NLI на базе l3cube-pune/malayalam-bert. Она создаёт векторные представления предложений на малаяламском языке для сравнения семантической близости и поиска похожих фраз. Модель можно применять в семантическом поиске, группировке предложений и других сценариях, где требуется оценивать сходство текстов. Модель имеет архитектуру BertModel, содержит около 264,8 млн параметров и поддерживает контекст до 512 токенов. Для получения представления предложения README рекомендует использовать sentence-transformers либо применить подходящую операцию pooling к контекстным представлениям токенов. Распространяется в формате PyTorch по лицензии CC BY 4.0.

Omartificial-Intelligence-Space разработала эту модель Sentence Transformers дообучением арабоязычной UBC-NLP/MARBERTv2 на наборе Arabic-NLi-Triplet. Модель кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости текстов; для оценки близости используется косинусное сходство. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текстов. Matryoshka-обучение позволяет использовать укороченные представления размерностью 512, 256, 128 или 64. Архитектура основана на BERT, максимальная длина входа — 512 токенов. Основной язык — арабский. В метаданных указаны 190 млн параметров и лицензия Apache-2.0. Результаты на приведённых в карточке наборах STS показывают умеренное соответствие оценкам семантической близости; качество на иных данных может отличаться. Модель не предназначена для генерации текста.

mrm8488 дообучил модель Sentence Transformers на базе nomic-ai/modernbert-embed-base на испанском наборе данных для оценки семантического сходства предложений. ModernBERT преобразует текстовые предложения и абзацы в плотные эмбеддинги размерностью 768; средний пулинг токенов и нормализация позволяют сравнивать векторы по косинусному сходству. Максимальная длина последовательности — 8192 токена, а Matryoshka-обучение поддерживает сокращённые представления размерностью 512, 256, 128 и 64. Модель подходит для семантического поиска, поиска перефразировок, сравнения предложений, кластеризации и классификации текста на испанском языке. README приводит результаты оценки сходства на STS-наборах, но не описывает проверку на других языках или предметных областях. Базовый репозиторий распространяется под лицензией Apache-2.0; для этой производной модели отдельная лицензия в предоставленных данных не указана.

sigridjineth/ModernBERT-korean-large-preview — модель Sentence Transformers, дообученная автором на корейском наборе korean_nli_dataset_reranker_v1 на основе answerdotai/ModernBERT-large. Это плотный энкодер ModernBERT с 394,7 млн параметров: он преобразует предложения и абзацы в векторы размерности 1024, а сходство между ними оценивается косинусной мерой. Максимальная длина входа — 8192 токена; модель предназначена прежде всего для корейского языка. Модель подходит для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В README приведены результаты оценки на задачах поиска и сравнения предложений; показатели относятся к указанным оценочным наборам и не гарантируют такую же точность на других данных. Для практического применения модель можно использовать в системах поиска и анализа корейских текстов, передавая её эмбеддинги поисковому индексу или последующим алгоритмам. В предоставленных данных сведения о лицензии отсутствуют.

cross-encoder/ms-marco-electra-base — англоязычный кросс-энкодер на базе ELECTRA, разработанный для ранжирования фрагментов MS MARCO. Модель совместно обрабатывает запрос и каждый кандидатный текст и оценивает их релевантность; её используют после первичного поиска, чтобы пересортировать найденные документы. Архитектура — ElectraForSequenceClassification, размер — 136,7 млн параметров, библиотека — Sentence Transformers. Контекст ограничен 512 токенами; доступны форматы PyTorch, Safetensors, ONNX и OpenVINO. Модель подходит для повышения качества поиска по коллекциям документов, например в схеме retrieve-and-rerank с ElasticSearch. Она дообучена на задаче ранжирования фрагментов MS MARCO и распространяется по лицензии Apache-2.0. Модель рассчитана на английский язык; совместная обработка каждой пары «запрос — фрагмент» требует отдельного вычисления для каждого кандидата.

Ruri v3 70M — модель текстовых эмбеддингов для японского языка, разработанная cl-nagoya на основе предварительно обученной cl-nagoya/ruri-v3-pt-70m. Это Sentence Transformer с архитектурой ModernBERT: 70 млн параметров, 13 слоёв и выходными векторами размерности 384. Модель принимает последовательности длиной до 8192 токенов и использует токенизатор SentencePiece, которому не требуется внешняя сегментация японского текста. Модель предназначена для семантического поиска, оценки сходства предложений, классификации, кластеризации и ранжирования японских текстов. В JMTEB она показывает средний результат 75,48; сходство вычисляется по косинусной мере. Указанная лицензия — Apache 2.0. Для практического использования описана поддержка Transformers версии 4.48.0 или выше и Sentence Transformers.

colorfulscoop/sbert-base-ja — японская Sentence-BERT модель, разработанная на основе японской BERT colorfulscoop/bert-base-ja. Её дообучили на японском наборе SNLI, чтобы получать векторные представления предложений и оценивать их смысловое сходство. Модель использует архитектуру BERT с 768-мерными токенными представлениями и усреднением по токенам; максимальная длина последовательности — 512 токенов. В карточке указана точность 0,8529 на тестовой выборке SNLI. Модель предназначена для работы с японским языком. Лицензия репозитория — CC BY-SA 4.0. Для исходной модели colorfulscoop/bert-base-ja в README указана CC BY-SA 3.0; при использовании производной модели следует учитывать условия обеих лицензий.

SPLADE-BERT-Tiny-BS256-domain-adapted — разреженный энкодер SPLADE, дообученный автором yosefw на yosefw/bert-tiny-adapted-msmarco с помощью Sentence Transformers. Модель преобразует предложения и абзацы на английском языке в разреженные векторы размерности 30 522; сходство оценивается скалярным произведением. Архитектура включает BERT Tiny с masked language modeling и SPLADE pooling, максимальная длина входа — 512 токенов. Размер модели — 4,4 млн параметров. Модель предназначена для семантического поиска и разреженного извлечения документов по запросу. В карточке приведены результаты оценки качества retrieval, но они не гарантируют такую же точность на других наборах данных. Лицензия — MIT.

Это вариант CLIP с визуальным энкодером ViT-H/14, обученный на наборе данных MetaCLIP-2.5B. Модель разработана для использования с библиотеками open_clip и timm; в OpenCLIP она называется ViT-H-14-quickgelu, а в timm — vit_huge_patch14_clip_224.metaclip_2pt5b. Модель сопоставляет изображения с текстовыми описаниями и подходит для классификации изображений по произвольным текстовым меткам без отдельного обучения на этих классах. Её можно применять для поиска изображений по тексту и быстрой категоризации визуального содержимого. Репозиторий содержит веса PyTorch и safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческого характера.

avsolatorio/all-MiniLM-L6-v2-MEDI-MTEB-triplet-final — англоязычная модель Sentence Transformers, дообученная на базе sentence-transformers/all-MiniLM-L6-v2 для получения векторных представлений предложений и оценки их семантического сходства. Её можно применять для поиска похожих текстов, ранжирования кандидатов по близости к запросу, кластеризации и дедупликации предложений, в том числе в задачах с медицинскими и научными текстами среди обучающих данных. Модель построена на архитектуре BERT, содержит 25,9 млн параметров и выдаёт векторы размерности 384. Для сравнения векторов используется косинусное сходство. README указывает максимальную длину последовательности 256 токенов, а метаданные — контекстное окно 512 токенов. Модель принимает текст и возвращает эмбеддинги; заявленный язык — английский. Модель распространяется по лицензии Apache-2.0. Это энкодер предложений, а не генеративная модель: он не предназначен для свободной генерации ответов. Качество сходства зависит от домена и формулировок; длину входного текста следует учитывать с учётом ограничения README в 256 токенов.

jaimevera1107/all-MiniLM-L6-v2-similarity-es — испаноязычная модель Sentence Transformers, дообученная на датасете Similarity Sentences Spanish для получения векторных представлений предложений и абзацев. Она основана на архитектуре BERT, содержит 25,9 млн параметров и формирует плотные векторы размерностью 768; заявленная длина контекста — 512 токенов. Модель подходит для семантического поиска, сравнения сходства предложений и кластеризации испаноязычных текстов. В README приведены результаты оценки Spearman Correlation 80,1% и R² 70,67% для строки «Roberta Fine tuned», поэтому эти числа нельзя уверенно приписать именно данной модели. Для работы доступны веса PyTorch и библиотека Sentence Transformers. Модель распространяется по лицензии MIT. Её обучение и заявленные языковые возможности ориентированы на испанский; результаты на других языках не подтверждены.

Это конверсия CLIP ViT-L/14 от OpenAI, подготовленная zeromodels в формате Keras 3. Модель использует два энкодера — для изображений и текста — которые обучены контрастивно на парах «изображение—подпись» и отображают данные в общее пространство эмбеддингов. Реализация работает с TensorFlow, PyTorch и JAX. Модель предназначена для классификации изображений без дополнительного обучения: при выводе передают изображение и текстовые подсказки с возможными категориями, после чего модель сопоставляет их. Также архитектура CLIP подходит для поиска изображений по тексту и получения совместных эмбеддингов. Лицензия — MIT.

arxyzan/data2vec-roberta-base — текстовая модель семейства RoBERTa, созданная на основе подхода Data2Vec к самообучению. Репозиторий содержит копию facebook/data2vec-text-base; автор карточки уточняет, что модель не обучалась с помощью кода из репозитория Data2Vec, а была скопирована для удобства и воспроизводимости. Модель предназначена для извлечения признаков из текста и получения векторных представлений. Она содержит 151,8 млн параметров, принимает последовательности длиной до 514 токенов и доступна в форматах PyTorch и Safetensors. Указанный язык — английский. Лицензия в предоставленных данных не указана.

Data2Vec-Text base — англоязычная предварительно обученная трансформерная модель от команды Facebook, обученная по self-supervised objective семейства data2vec. Она преобразует текст в контекстные векторные представления и предназначена прежде всего для дообучения под задачи, использующие целое предложение или его фрагменты, например классификацию последовательностей и токенов, а также ответы на вопросы. Для генерации текста карточка рекомендует использовать авторегрессионные модели. Модель содержит 151,8 млн параметров, принимает текст с учетом регистра и рассчитана на контекст до 514 токенов. В метаданных указаны английский язык и PyTorch; среди обучающих данных названы BookCorpus и Wikipedia. Лицензия — MIT. Data2Vec использует Transformer и предсказывает контекстные латентные представления замаскированного входа. Карточка указывает, что модель рассчитана на дообучение для конкретных задач, поэтому качество непосредственно в прикладных сценариях зависит от выбранного дообучения.

eva02_large_patch14_clip_336.merged2b — веса модели EVA-02 CLIP, опубликованные timm для использования с OpenCLIP. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах: она сопоставляет изображение и варианты текста, а затем оценивает их сходство. По названию репозитория модель использует визуальный энкодер EVA-02 с патчами 14×14 и входным разрешением 336 пикселей, объединённый с текстовым энкодером CLIP. Метаданные указывают задачу zero-shot image classification и форматы PyTorch и safetensors. Лицензия — MIT.

Finnish ModernBERT tiny — компактная предобученная модель-энкодер архитектуры ModernBERT, разработанная TurkuNLP. Модель содержит 51 млн параметров и обучена на 447,9 млрд токенов. Она рассчитана на финский, шведский, английский, северносаамский, латинский языки и код; метаданные указывают языки fi, sv и en. Для задачи заполнения пропусков заявлен контекст 16 000 токенов, а в карточке отмечена теоретическая возможность экстраполяции до 128 000 токенов. Модель подходит для предсказания скрытых токенов, анализа текста и получения контекстных представлений, в том числе для задач поиска по текстам. В оценках семейство моделей показало конкурентные результаты на коротких задачах понимания финского, шведского и английского языков, а также сильные результаты в поиске вне обучающего домена. Обучение проводилось на суперкомпьютере LUMI на разнообразных текстовых данных. Модель распространяется по лицензии Apache-2.0. В обучающих данных могли присутствовать предвзятые и вредоносные материалы, не проводилась фильтрация токсичного или оскорбительного содержания; выходы и представления модели следует оценивать с учётом возможного влияния на уязвимые группы.

bongsoo/klue-cross-encoder-v1 — корейская модель на базе klue/bert-base, дообученная автором как cross-encoder с помощью класса Cross-Encoder из SentenceTransformers. Она оценивает семантическое сходство пары предложений, в частности для задач STS. В карточке приведены результаты на корейских и англоязычных наборах STS; модель показывает более высокую оценку на klue-sts, чем на korsts и glue STS-B. Модель использует архитектуру BERT с классификационной головой, содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. Основной язык — корейский; в опубликованной оценке также есть тест на английском. Лицензия — Apache-2.0. Cross-encoder выдаёт оценку для пары текстов, поэтому для ранжирования документов обычно нужно отдельно оценить каждую пару запроса и кандидата.

KoDiffCSE-RoBERTa — модель BM-K для получения векторных представлений корейских предложений. Она основана на архитектуре RoBERTa и предназначена для извлечения признаков текста и сравнения семантической близости предложений. В README проект описан как реализация Difference-based Contrastive Learning для корейских эмбеддингов; приведены эксперименты на wiki-корпусе и оценка на KorSTS. Модель содержит 137,8 млн параметров и поддерживает контекст до 514 токенов. Её можно применять для поиска семантически похожих предложений, кластеризации и других задач, где нужны эмбеддинги корейского текста. README приводит результаты для семейства KoSRoBERTa, но не позволяет однозначно связать конкретные значения таблицы с этим репозиторием. Лицензия в предоставленных данных не указана.

daekeun-ml выпустил KoSimCSE-supervised-roberta-base — корейскую модель эмбеддингов предложений на архитектуре RoBERTa-base, обученную методом SimCSE с контрастивным обучением на размеченных данных NLI. Она преобразует корейский текст в векторные представления для поиска семантически близких предложений и сравнения их смыслового сходства. Модель предназначена для семантического поиска, ранжирования похожих текстов и оценки сходства предложений. В README приведены результаты на корейских наборах KLUE-STS и Kor-STS; авторы сообщают, что supervised-версия превосходит unsupervised-вариант base на этих тестах. Репозиторий содержит веса в формате safetensors, лицензия — MIT. Результаты и описание ориентированы на корейский язык. В README отмечено, что качество зависит от обучающих данных NLI и что увеличение максимальной длины последовательности само по себе не гарантирует улучшения; указанная при обучении максимальная длина — 32 токена.

UMCU разработала Sentence Transformer на основе UMCU/mirrorbert_medroberta.nl_clstoken, дообученный для представления предложений и абзацев в виде плотных векторов размерностью 768. Архитектура состоит из RoBERTa и слоя pooling, который использует представление CLS-токена; для сравнения предусмотрена косинусная мера сходства. В метаданных указано 153,2 млн параметров и контекст до 514 токенов, тогда как README задаёт максимальную длину последовательности 30 токенов для Sentence Transformers; при использовании этой библиотеки следует учитывать более короткое ограничение. Модель подходит для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Название базовой модели и домен medroberta указывают на медицинскую направленность, однако README не описывает конкретные медицинские задачи или языки, поэтому применять её для них следует с отдельной проверкой. Репозиторий использует формат safetensors и библиотеку Sentence Transformers; лицензия в предоставленных данных не приведена.

Ops-MM-embedding-v1-7B — плотная мультимодальная модель эмбеддингов, разработанная командой Alibaba Cloud OpenSearch-AI и дообученная на базе Qwen2-VL-7B-Instruct. Она кодирует текст, изображения, пары «текст—изображение», визуальные документы и видео в единое пространство эмбеддингов; видео обрабатывается через отдельные кадры как изображения. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2-VL и поддерживает контекст до 32 768 токенов. Модель предназначена для межмодального поиска и извлечения информации, включая поиск по визуальным документам и видео. В README заявлены высокие результаты на бенчмарках MMEB-V2, MMEB-Image и ViDoRe-v2, а также многоязычное обобщение. Эти результаты характеризуют оценку на указанных наборах и сами по себе не гарантируют качество для конкретных данных или сценария. Распространяется в формате Safetensors по лицензии Apache-2.0. README не уточняет точный набор поддерживаемых языков и не приводит детальных рекомендаций по извлечению эмбеддингов или требованиям к вычислительным ресурсам.

Модель ibm-research/re2g-reranker-trex разработана IBM и предназначена для повторного ранжирования найденных текстовых фрагментов по запросу или вопросу. Она помогает отбирать наиболее релевантные материалы из результатов первичного поиска и объединять выдачу разных систем, например BM25 и нейронного ретривера, чьи исходные оценки напрямую несопоставимы. Модель представляет собой BERT для классификации последовательностей, содержит 136,7 млн параметров и обрабатывает до 512 токенов. В карточке указана поддержка английского языка и базовая модель BERT-base, обученная на MS MARCO. Репозиторий содержит веса PyTorch. Реранкер можно применять в поисковых системах и RAG-конвейерах перед передачей найденных фрагментов генеративной модели. Лицензия Apache 2.0 разрешает использование и модификацию на её условиях. Модель оценивает релевантность пар запроса и фрагмента, но сама не выполняет генерацию ответов и наследует ограничение контекста в 512 токенов.

Ruri v3 PT 310M — предварительно обученная модель эмбеддингов японского текста от cl-nagoya на базе ModernBERT-Ja. Она предназначена для получения векторных представлений предложений и сравнения их семантической близости; для прикладного использования авторы рекомендуют дообученную версию cl-nagoya/ruri-v3-310m. Модель имеет архитектуру ModernBERT, около 314,6 млн параметров, размерность эмбеддингов 768 и контекст до 8192 токенов. В карточке указаны японский язык и лицензия Apache-2.0. Это предварительно обученный чекпойнт без последующего дообучения на целевой задаче, поэтому качество сходства может быть ниже, чем у предназначенной для использования дообученной версии.

SIGMA-BERT-base — словенская языковая модель на архитектуре ModernBERT, разработанная командой LHRS-UM-FERI и предварительно обученная с нуля на словенских текстах методом masked language modeling. Это плотный encoder-чекпойнт примерно на 148,7 млн параметров с контекстом до 8192 токенов; модель использует токенизатор SentencePiece BPE с 50 000 токенов. Модель предназначена для заполнения пропусков и как основа для дообучения на задачах понимания словенского текста: классификации, распознавания именованных сущностей, извлечения ответов, оценки семантического сходства, поиска по документам и ранжирования в RAG-системах. Длинное контекстное окно подходит для анализа больших документов. SIGMA-BERT-base не генерирует связный текст: это encoder для предсказания замаскированных токенов и извлечения языковых представлений. Модель рассчитана прежде всего на словенский язык и может отражать предубеждения обучающих данных. Лицензия — CC BY-SA 4.0.