I.1Поиск и навигация по информации

moBERTo — португалоязычная адаптация encoder-only модели ModernBERT, разработанная Tropic-AI. Модель продолжительно предобучена на португалоязычном корпусе, использует специализированный португальский токенизатор и перенос подсловных эмбеддингов. Вариант с контекстом 8192 токена прошёл дополнительное обучение для длинного контекста. Архитектура ModernBERT включает позиционные RoPE-эмбеддинги, чередование локального и глобального внимания, FlashAttention и unpadding. Модель содержит около 149 млн параметров и предназначена прежде всего для заполнения маскированных токенов и как основа для дообучения на ранжирование поиска, классификацию документов, распознавание сущностей и другие задачи понимания португальского текста. В статье сообщается о сильных результатах на португальских задачах поиска и понимания текста. Лицензия — Apache-2.0. Это encoder-модель для понимания текста, а не генеративный чат-ассистент; для прикладных задач, таких как ранжирование и классификация, может потребоваться отдельное дообучение. Основной язык модели — португальский, хотя исходная ModernBERT обучалась на английском.

ModernBERT Embed base LegalTextAI Matryoshka legaldataset — англоязычная модель эмбеддингов, разработанная LegalTextAI путём дообучения nomic-ai/modernbert-embed-base на 41 342 парах текстов. Она преобразует предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска, сравнения текстов, поиска перефразирований, классификации и кластеризации. Архитектура Sentence Transformer основана на ModernBERT с усреднением токенов и нормализацией; контекст — до 8192 токенов. Matryoshka-представления позволяют использовать сокращённые векторы размерностью 512, 256, 128 или 64. Обучающие примеры связаны с юридическими текстами: вопросы сопоставляются с фрагментами судебных документов. Модель подходит для поиска релевантных юридических материалов и построения семантических индексов; README также указывает общие сценарии работы с текстом. Лицензия — Apache 2.0. Указанные оценки получены на наборе InformationRetrievalEvaluator; переносимость результатов на другие корпуса отдельно не подтверждена.

wwydmanski/modernbert-pubmed-v0.1 — англоязычная Sentence Transformer модель, дообученная разработчиком на базе answerdotai/ModernBERT-base на наборе пар и троек текстов из 10 053 примеров. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости по косинусному сходству. Модель предназначена для семантического поиска и сопоставления текстов, включая поиск похожих публикаций и документов PubMed, извлечение перефразировок и кластеризацию. Также полученные векторы можно использовать в классификации текста. Архитектура состоит из ModernBERT и среднего объединения токенных представлений; максимальная длина входа — 512 токенов. В README приведена точность cosine_accuracy 0,887 на triplet-dev, однако подробностей о протоколе оценки нет. В метаданных указана лицензия? Нет сведений о лицензии, поэтому условия использования по лицензии определить нельзя.

ModernGBERT 1B — немецкоязычная модель-энкодер семейства ModernBERT, разработанная LSX-UniWue. Она содержит 1,1 млрд параметров, использует архитектуру BERT с маскированным языковым моделированием и обрабатывает последовательности длиной до 8 192 токенов. Модель предварительно обучена на немецкой части RedPajama V2 объёмом 1,27 трлн токенов; также в метаданных указан датасет LSX-UniWue/LLaMmlein-Dataset. Модель предназначена для извлечения признаков и эмбеддингов, а также задач понимания немецкого текста. Её можно применять для семантического поиска, оценки релевантности и дообучения под классификацию токенов; README показывает использование с Transformers и PEFT/LoRA. В бенчмарках авторов модель получила средние оценки 0,808 на SuperGLEBer и 0,551 на немецком MTEB после дополнительного unsupervised fine-tuning на немецкой части mMARCO. Модель распространяется в форматах PyTorch и Safetensors, лицензия обозначена как other. Она является энкодером с маскированным языковым моделированием, поэтому не предназначена для свободной авторегрессионной генерации текста. Указанные результаты MTEB получены после дополнительного дообучения, что следует учитывать при сравнении.

MultiLinguSwahili-bge-small-en-v1.5-nli-matryoshka — компактная модель Sentence Transformer, разработанная Sartify LLC на базе BAAI/bge-small-en-v1.5 и дообученная на наборе Mollel/swahili-n_li-triplet-swh-eng. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска и сравнения текстов. Архитектура включает BERT, пулинг по токену CLS и нормализацию; модель содержит 40 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена сопоставлять тексты на суахили и английском, в том числе находить близкие по смыслу пары и различать отрицательные примеры. Её можно использовать для многоязычного семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. README приводит результаты оценки сходства предложений на нескольких вариантах тестового набора. Лицензия в предоставленных данных не указана. Качество на других языках, вне описанных сценариев и на текстах длиннее 512 токенов не установлено; как и у других моделей эмбеддингов, результаты зависят от данных и способа применения в поисковой или классификационной системе.

sbastola/muril-base-cased-sentence-transformer-snli-nepali — модель эмбеддингов предложений и абзацев на базе MuRIL, подготовленная разработчиком sbastola с использованием Sentence-Transformers. Она преобразует текст в плотные векторы размерности 768 для семантического поиска, сравнения предложений и кластеризации. Модель построена на архитектуре BERT, содержит 264,8 млн параметров и принимает последовательности длиной до 512 токенов. Обучение проводилось с функцией потерь SoftmaxLoss на данных SNLI. Модель предназначена для получения векторных представлений текста; заявленное применение включает поиск по смыслу и группировку похожих фрагментов. Репозиторий содержит веса в формате safetensors и использует библиотеку sentence-transformers. Лицензия и конкретные ограничения качества в предоставленных данных не описаны.

MyAwesomeModel — модель из репозитория yfeng123456/MyAwesomeModel-TestRepo, опубликованная для использования с библиотекой Transformers и PyTorch. По метаданным Hugging Face она относится к семейству BERT и предназначена прежде всего для извлечения признаков из текста.

unrestrictedai/my-embedding-gemma — модель Sentence Transformer, дообученная на базе google/embeddinggemma-300m. Она преобразует предложения и абзацы в плотные эмбеддинги размерности 768 и сравнивает их по косинусному сходству. Архитектура относится к Gemma 3 Text; модель содержит 302,8 млн параметров, принимает текст с контекстом до 2048 токенов и сохраняет веса в формате safetensors. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В README указано обучение на трёх примерах с MultipleNegativesRankingLoss, поэтому качество и переносимость на другие задачи или предметные области могут быть ограничены. Лицензия в предоставленных данных не указана.

Nepali_Embedding_Model — модель Sentence Transformers на архитектуре XLM-RoBERTa, представленная пользователем universalml. Она преобразует текстовые предложения в векторные представления для сравнения их семантической близости; для оценки сходства рекомендуется косинусная мера. Модель содержит 658,7 млн параметров, принимает последовательности длиной до 512 токенов и выдаёт эмбеддинги размерностью 1024. Модель предназначена для поиска семантически похожих предложений и других сценариев, где текст нужно представить в виде векторов. В метаданных указаны английский и непальский языки, а лицензия — Apache-2.0. Карточка не уточняет ограничения качества или языковую специализацию за пределами названия модели и языковых тегов.

nikcheerla/nooks-amd-detection-realtime — модель на базе MPNet, опубликованная в формате PyTorch и предназначенная для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в эмбеддинги размерностью 768 и поддерживает семантический поиск, кластеризацию и сравнение сходства текстов. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов. В README указано обучение с CosineSimilarityLoss; подробности обучающих данных и оценок качества не приведены. Лицензия и поддерживаемые естественные языки в предоставленных источниках не указаны.

norsu-bge-small-finetuned — дообученная модель Sentence Transformers на основе BAAI/bge-small-en-v1.5, разработанная автором репозитория oppao-hub. Она кодирует предложения и абзацы на английском языке в плотные текстовые эмбеддинги размерностью 384 для семантического поиска, извлечения релевантных документов и сравнения предложений по косинусному сходству. Модель построена на BERT с CLS-пулингом и нормализацией векторов; принимает текстовые последовательности длиной до 512 токенов. Модель обучена с MultipleNegativesRankingLoss на наборе из 284 пар предложений, связанных с учебными процедурами и сведениями о вузе. В README приведены результаты на norsu-test-eval, включая cosine_accuracy@1 0,8732 и cosine_accuracy@3 0,9859. Она подходит для поиска ответов и документов в тематическом корпусе, похожем на обучающие данные; показатели не гарантируют качество на других темах. Лицензия в предоставленных данных не указана.

OLA-Embed — разработанная OneLineAI / OLAIR мультимодальная модель эмбеддингов на 8 млрд параметров, дообученная на базе Qwen/Qwen3-VL-Embedding-8B для финансового поиска и многоязычного retrieval. Она кодирует текст, изображения документов и таблиц, скриншоты, изображения, видео и смешанные входы в общее векторное пространство; подходит для семантического поиска, RAG, межъязыкового поиска, сравнения сходства, кластеризации и удаления дубликатов. Модель построена на архитектуре Qwen3-VL, поддерживает Sentence Transformers, возвращает L2-нормированные векторы размерностью до 4096 и обучалась с контрастивной функцией потерь, hard negatives и Matryoshka-представлениями. Основная проверенная область — финансовые документы, а приоритетные языки оценки — корейский, английский, японский и вьетнамский. Лицензия модели — Apache-2.0. Качество для других языков и предметных областей требует отдельной оценки. В карточке нет специализированных оценок самой модели для мультимодальных задач; качество может снижаться на сложных таблицах, низкокачественных скриншотах и нестандартной разметке документов. Модель не генерирует текст и не является реранкером; её результаты не гарантируют фактическую точность и не должны быть единственным основанием для финансовых, юридических или регуляторных решений. Условия лицензирования исходных обучающих данных могут различаться.

OmniRet — мультимодальная модель эмбеддингов для поиска, опубликованная как объединённый чекпойнт второго этапа проекта Efficient and High-Fidelity Omni Modality Retrieval. Она объединяет текстовый энкодер Alibaba-NLP/gte-Qwen2-1.5B-instruct, визуальный энкодер google/siglip-so400m-patch14-384 и аудиоэнкодер Qwen-Audio с проекторами и общим способом объединения признаков. Модель кодирует текст, аудио, изображения и видео в общее пространство нормализованных векторов размерности 4096; сходство между ними можно оценивать скалярным произведением. Запрос может содержать инструкцию и текст вместе с одним типом медиа. Видео обрабатывается по не более чем восьми равномерно выбранным кадрам. Модель предназначена для межмодального поиска и вычисления релевантности, а не для генерации ответов. Опубликованная версия обучена в меньшем масштабе, чем модель из статьи, поскольку исходный чекпойнт был утрачен; количественные результаты статьи к ней напрямую не относятся. Для аудио требуются монофонические WAV-файлы PCM, 16 бит, 16 кГц; обработка на CPU поддерживается, но существенно медленнее, рекомендуется CUDA GPU. Оценки сходства не являются вероятностями и могут немного различаться между устройствами и вычислительными ядрами. В метаданных указана лицензия other.

Paralel TR-EN Embedder — двуязычная модель эмбеддингов предложений на турецком и английском языках, разработанная на базе BAAI/bge-small-en-v1.5 и дообученная на 882 тысячах параллельных пар переводов. Она использует архитектуру BERT и выдаёт векторные представления размерности 384; максимальная длина последовательности — 64 токена, а нативный контекст по метаданным — 512 токенов. Доступны форматы Safetensors и GGUF. Модель предназначена для поиска семантически близких предложений между турецким и английским языками, выравнивания параллельных корпусов, кластеризации двуязычных документов и первичного поиска для RAG. В проверке на отложенных данных средняя косинусная близость составила около 0,82 для правильных переводов и 0,12 для несвязанных пар. Модель хуже различает тонкие смысловые различия, например смену местоимения, времени или отрицания: оценки сложных отрицательных примеров могут быть близки к оценкам правильных переводов. Поэтому её оценки подходят для грубого поиска и кластеризации, но не для точной проверки корректности перевода. Лицензия — MIT.

Xenova/paraphrase-multilingual-MiniLM-L12-v2 — мультиязычная модель для получения векторных представлений текста, созданная на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 и подготовленная сообществом Xenova для использования в Transformers.js. Модель предназначена для задач сравнения смысловой близости и поиска перефразирований, включая семантический поиск, кластеризацию и сопоставление текстов, в JavaScript-приложениях. В репозитории представлены веса в формате ONNX, совместимые с Transformers.js; запуск выполняется через конвейер feature-extraction. Из README не указаны точный размер модели, перечень поддерживаемых языков, максимальная длина контекста и дополнительные модальности. Лицензия также не указана, поэтому условия использования по этим данным определить нельзя. Возможность работы в веб-среде является ключевой особенностью, однако качество и применимость зависят от исходной модели sentence-transformers и конкретного сценария использования.

Это модель Sentence Transformer, дообученная на базе vinai/phobert-base-v2 — вьетнамского RoBERTa-энкодера. Она преобразует предложения и абзацы в плотные векторы размерностью 768, которые сравниваются с помощью косинусного сходства. Модель содержит 162,4 млн параметров и принимает последовательности длиной до 258 токенов по метаданным; в README указан максимум 256 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Её можно применять для поиска вьетнамских документов по смыслу и группировки похожих высказываний. README приводит результаты оценки поиска информации, включая точность cosine_accuracy@1 0,7045 и cosine_accuracy@5 0,8767. Модель принимает текст и выдаёт векторы признаков; архитектура включает RoBERTa-энкодер и усреднение токенных представлений. Основной язык — вьетнамский, поскольку базовая PhoBERT рассчитана на обработку вьетнамского языка. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

KhoaUIT/Phobert-UIT-R2GQA — модель Sentence Transformer на архитектуре RoBERTa, обученная на датасете R2GQA. Она преобразует предложения и абзацы в плотные векторы размерности 768 и сравнивает их косинусным сходством; модель подходит для оценки семантической близости, семантического поиска, поиска перефразировок, классификации и кластеризации текста. В Sentence Transformers используется усреднение токенных представлений, максимальная длина последовательности составляет 256 токенов, а контекст модели — 258 токенов. Модель ориентирована на вьетнамский язык и вопросы и ответы по датасету R2GQA. Её можно применять для поиска релевантных фрагментов и группировки похожих текстов. В README не приведены результаты оценки качества или условия лицензии, поэтому их нельзя уточнить по доступным сведениям.

piccolo-base-zh — текстовая embedding-модель, обученная General Model Group компании SenseTime Research. Модель основана на архитектуре BERT, содержит 129,5 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для получения векторных представлений китайских текстов и подходит для семантического поиска, поиска по запросам и документам, сравнения смысловой близости, классификации и кластеризации. Обучение проходило в два этапа: на 400 млн слабонаблюдаемых пар текстов с контрастивной функцией потерь, затем на 20 млн размеченных пар с трудными отрицательными примерами. Авторы приводят результаты оценки семейства piccolo на C-MTEB; размерность векторов piccolo-base-zh — 768. Модель рассчитана прежде всего на китайский язык. Контекст ограничен 512 токенами; для запросов при описанном авторами дообучении использовалась длина до 64 токенов. В README и метаданных лицензия не приведена, поэтому условия использования по этим источникам установить нельзя.

Pixel-Linguist-II-Midtrain-Only — визуальный энкодер из статьи EMNLP «On the Design Fundamentals of Pixel Text Representation Learning». Модель разработана для получения эмбеддингов текста и изображений одной башней: текст перед подачей преобразуют в RGB-изображение, поэтому при инференсе токенизатор текста не используется. Архитектура основана на vision tower Qwen2.5-VL и представляет собой ViT с обработкой изображений в исходном разрешении; размер модели — 676,6 млн параметров. Соседние визуальные токены объединяются слоем pooling 2×2, затем эмбеддинги патчей усредняются и нормализуются по L2-норме. Это абляционный чекпойнт, обученный только по Stage 2: на 26 млн многоязычных семантических текстовых пар и 26 млн пар изображение–текст из LAION-2B, без предварительного Stage 1 на многоязычной Википедии. Модель предназначена для визуального семантического поиска и сопоставления текста с изображениями, включая поиск по документам; текст необходимо самостоятельно отрисовать в изображение. В статье показаны результаты на Visual STS и ViDoRe: модель особенно сильна в поиске по документам, но добавление Stage 1 улучшает кросс-языковое и многоязычное выравнивание. Репозиторий распространяется под лицензией Apache-2.0.

neeva/query2query — модель Sentence-Transformers от Neeva для представления поисковых запросов в виде плотных векторов размерности 384. Она основана на архитектуре BERT и содержит 25,9 млн параметров; модель принимает текст и формирует эмбеддинги, которые можно использовать для кластеризации запросов и семантического поиска по ним. Максимальная длина контекста — 512 токенов. Модель подходит для поиска похожих запросов, группировки запросов по смыслу и построения поиска по коллекции запросов. В карточке указано обучение на протяжении 1 млн шагов с размером пакета 1024 и начальной скоростью обучения 2e-5. Репозиторий содержит веса PyTorch. Лицензия CC-BY-NC-SA-4.0 запрещает коммерческое использование без отдельного разрешения правообладателя. Модель предназначена для текстовых запросов; карточка описывает эмбеддинги, но не сообщает о поддержке других модальностей.

lucaswychan/Qwen2.5-Math-1.5B-Reasoning-Embedding — мультиязычная модель эмбеддингов на базе decoder-only архитектуры Qwen2.5-Math-1.5B, дообученная контрастивным обучением. Она преобразует текст в векторные представления для сравнения семантического сходства предложений и может использоваться как компонент поиска по смыслу или ранжирования текстов. Модель содержит 1,5 млрд параметров, принимает контекст длиной до 4096 токенов и распространяется в формате safetensors; для загрузки через Sentence Transformers или Transformers в карточке рекомендуется включить trust_remote_code. Авторы исследуют, дают ли языковые модели, обученные рассуждению с проверяемыми наградами, более качественную основу для эмбеддингов. Описанные эксперименты на MTEB и BRIGHT не выявили устойчивого преимущества такой инициализации над базовой моделью при одинаковом обучении эмбеддингов. Модель выпущена под лицензией Apache-2.0. README не приводит численных результатов именно этого чекпойнта или подробной оценки его языкового покрытия.

Manojb/Qwen-7B-toolcalling-ReSearch-gguf-Q8_0 — локальная языковая модель в формате GGUF, разработанная на базе agentrl/ReSearch-Qwen-7B и упакованная с квантизацией Q8_0 авторами Manojb и mradermacher. Модель основана на Qwen-7B и обучалась с использованием датасета RUC-NLPIR/FlashRAG_datasets. ReSearch — подход, в котором поиск интегрирован в цепочку рассуждений и выбор момента и способа поиска формируется с помощью текстового рассуждения, а результаты поиска влияют на дальнейшие выводы. Модель предназначена для генерации текста, ассистирования в программировании, локального использования и сценариев function calling и tool calling, включая взаимодействие с API-инструментами. Она ориентирована на английский язык и может запускаться через Ollama или другие совместимые средства работы с GGUF. Версия Q8_0 занимает около 8,2 ГБ и рассчитана примерно на 9–12 ГБ VRAM; заявлено отсутствие заметных потерь качества относительно исходной модели. Для этой базовой модели README рекомендует не применять chat completion. К сильным сторонам относятся высокая точность квантизации Q8_0, поддержка локального запуска и специализированная ориентация на вызов инструментов и поиск. Ограничения включают размер модели около 7B параметров, англоязычную заявленную специализацию, необходимость корректного режима работы без chat completion и потребность примерно в 9–12 ГБ VRAM. Модель распространяется по лицензии MIT.

multi-qa-MiniLM-L6-cos-v1 — модель для семантического сходства предложений, экспортированная из одноимённой upstream-модели sentence-transformers и опубликованная в формате ExecuTorch для библиотеки React Native ExecuTorch. Она предназначена для локального запуска на мобильных и других устройствах с поддержкой ExecuTorch, в том числе в сценариях семантического поиска, сопоставления запросов и документов и оценки близости текстов. В репозитории представлены программы ExecuTorch .pte для бэкендов Core ML, Vulkan и XNNPACK. Варианты используют fp16 для Core ML и Vulkan и fp32 для XNNPACK; размеры файлов составляют около 43–86 МБ. Вместе с моделями поставляются конфигурации и токенизатор. Архитектура, число параметров, поддерживаемые языки, максимальная длина контекста и перечень модальностей в README не указаны; по назначению это текстовая модель, работающая с предложениями. К сильным сторонам относятся возможность офлайн-выполнения на устройстве и наличие вариантов под разные аппаратные ускорители. Ограничения включают зависимость от совместимого ExecuTorch runtime: файлы опубликованы для ExecuTorch v1.4.1, а обратная совместимость с более старыми версиями не гарантируется. Модель распространяется по лицензии Apache-2.0.

paraphrase-multilingual-MiniLM-L12-v2 — многоязычная модель семейства Sentence Transformers, экспортированная в формат ExecuTorch для библиотеки React Native ExecuTorch. В README разработчик экспортированного репозитория прямо не указан; исходная модель связана с организацией sentence-transformers, а базовый энкодер инициализирован из xlm-roberta-base. Модель предназначена для оценки семантического сходства предложений, поиска парафраз, кросс-языкового поиска и извлечения средних по длине текстовых запросов. Она принимает токены и формирует L2-нормированный вектор размерности 384. Архитектура включает 12-слойный 12-головый BERT-энкодер со скрытым размером 384, mean pooling по последнему скрытому состоянию и без дополнительной проекционной головы. Максимальная длина входа — 126 токенов, словарь содержит 250 037 SentencePiece-элементов, поддерживается более 50 языков. Модель ориентирована на работу на устройстве и доступна в вариантах для Core ML, Vulkan и XNNPACK с точностью fp16, fp32 и 8da4w. Сильная сторона модели — кросс-языковое сравнение предложений и ранжирование более длинных текстов; результаты обычно лучше для предложений и англоязычных входов. Слабее она работает с короткими однословными запросами на неанглийских языках. Файлы опубликованы для ExecuTorch v1.4.1, прямой совместимости с более старыми или будущими версиями не гарантируется. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_10 на Hugging Face совпадает с карточкой camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_7, поэтому описание составлено по ней. camidenecken/RM2-RoBERTa-rm-v3-SBERT-v2_7 — модель sentence-transformers на архитектуре RoBERTa, обученная Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации. Модель содержит 151,8 млн параметров, принимает текст и имеет контекст до 514 токенов. В README версия помечена как устаревшая: качество векторных представлений низкое, поэтому для новых систем рекомендуется выбрать более качественную модель эмбеддингов. Распространяется по лицензии Apache-2.0.

yosefw/roberta-amharic-embed-base — модель Sentence Transformers на архитектуре XLM-RoBERTa, дообученная на базе yosefw/roberta-base-am-embed. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации. В README приведён пример данных с текстами на амхарском языке, хотя в карточке и метаданных указан английский язык. Модель использует усреднение токенных представлений и нормализацию векторов; сходство можно оценивать косинусной мерой. Размер модели — 137,8 млн параметров, максимальный контекст — 512 токенов. По результатам оценки в README точность cosine_accuracy@1 для поиска составляет 0,6929 при размерности 768 и 0,682 при размерности 256. Модель распространяется по лицензии Apache-2.0.

sentence-transformers/roberta-large-nli-mean-tokens — модель sentence-transformers, обученная командой Sentence Transformers на основе RoBERTa Large. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, сравнения текстов и кластеризации. Модель принимает текст и выдаёт векторные представления; архитектура использует RoBERTa и mean pooling. Контекст модели — до 514 токенов. Доступны веса в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель помечена авторами как устаревшая: README предупреждает о низком качестве sentence embeddings и рекомендует выбрать более новые модели. Лицензия — Apache-2.0.

m3hrdadfi/roberta-zwnj-wnli-mean-tokens — модель эмбеддингов на архитектуре RoBERTa, представленная в формате PyTorch и содержащая 145,5 млн параметров. Она преобразует текст в векторные представления для извлечения признаков и вычисления сходства между предложениями. Для получения итогового представления README рекомендует использовать Sentence-Transformers либо применить подходящую операцию pooling к контекстным представлениям токенов в Transformers. Модель подходит для поиска семантически похожих предложений, группировки текстов и получения признаков для последующей обработки. Максимальная длина контекста — 514 токенов. Сведения о лицензии и поддерживаемых естественных языках в доступных данных отсутствуют.

sergeyzh/rubert-mini-sts — компактная русскоязычная модель для семантического сравнения предложений, разработанная на основе cointegrated/rubert-tiny2. Это BERT-энкодер с 32,8 млн параметров и эмбеддингами размерности 312; в README указано, что число слоёв увеличено с 3 до 7. Модель принимает текст и выдаёт векторные представления предложений для оценки их сходства. Модель предназначена для semantic text similarity, выявления перефразировок, вывода о связи между текстами, анализа тональности и выявления токсичности. По результатам бенчмарка encodechka она уступает более крупным multilingual-e5-large и LaBSE-ru-sts по STS, но README приводит для неё более высокую скорость на CPU. Указанная длина контекста — 2048 токенов. Модель выпущена под лицензией MIT.

ruELECTRA large cased — русскоязычная предварительно обученная модель семейства ELECTRA от AI-Forever. Она предназначена для получения векторных представлений предложений на русском языке; карточка также отсылает к публикации с описанием архитектуры, предобучения и оценки семейства моделей. Модель содержит 525,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Модель подходит для построения эмбеддингов, которые можно применять в поиске и сравнении текстов. Лицензия — MIT. Карточка описывает её использование для эмбеддингов, но не приводит оценки качества или подробностей ограничений.