I.2Синтез, понимание и проверка знаний

Модель mustozsarac/finetuned-four-epoch-multi-qa-mpnet-base-dot-v1 — дообученный разработчиком Sentence Transformer на базе sentence-transformers/multi-qa-mpnet-base-dot-v1. Она использует MPNet с пуллингом по токену CLS и содержит 136,7 млн параметров. Модель кодирует предложения и абзацы в плотные векторы размерности 768; для сравнения векторов используется скалярное произведение. Максимальная длина входной последовательности — около 512 токенов. Модель предназначена для семантического поиска и оценки сходства текстов. Её можно применять для поиска релевантных фрагментов и ответов, выявления перефразировок, кластеризации текстов и классификации на основе эмбеддингов. Базовая модель ориентирована на английские вопросы и текстовые фрагменты; README не сообщает, на каком языке собраны данные дообучения. Модель подходит для построения поисковых и аналитических конвейеров, где текст преобразуется в векторы, а релевантность определяется сравнением этих векторов. Для использования опубликованы веса в формате safetensors; библиотека модели — Sentence Transformers. Сведения о лицензии в предоставленных источниках отсутствуют.

Gemini 2.5 Pro Preview 06-05 — предварительная версия мультимодальной модели Google Gemini 2.5 Pro. Она предназначена для сложных задач рассуждения, программирования, математики и науки. В карточке указаны способности к рассуждению, но подробности об архитектуре, размере и длине контекста не приведены. Модель ориентирована на сценарии, где требуется разбирать запрос и формировать содержательный ответ, включая помощь с кодом и решение математических задач. Метаданные классифицируют её как image-text-to-text, однако README не уточняет поддерживаемые типы входных данных. Условия лицензии в доступных сведениях не описаны.

EmanuelOverride/gemma-4-19b-a4b-it-REAP-heretic-APEX-GGUF — это GGUF-квантизированная версия Gemma 4 19B-A4B-it REAP, созданная на основе модели coder3101/gemma-4-19b-a4b-it-REAP-heretic. В основе лежит Gemma 4 от Google, подвергнутая 30% pruning экспертов методом Cerebras REAP, а затем декензурированная с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation. Репозиторий поддерживает текстовую генерацию и ориентирован на англоязычные сценарии. Модель использует mixture-of-experts архитектуру: около 19,02 млрд общих параметров, примерно 4 млрд активных параметров на токен, 90 экспертов на слой и 8 активируемых экспертов на токен. Удаление 38 из 128 экспертов на слой уменьшает общий размер модели примерно на 31%, при этом число активных параметров на токен сохраняется. README не указывает размер контекстного окна и полный перечень поддерживаемых модальностей; по имеющимся данным, модель предназначена для работы с текстом, включая программирование, рассуждения, математику, научные и биомедицинские вопросы, tool calling и агентные сценарии. Главная особенность версии GGUF — пользовательские APEX-квантизации с неравномерным распределением точности: маршрутизаторы и важные общие эксперты сохраняются в более высокой точности, а более сильное сжатие применяется к менее значимым тензорам средних слоёв. Доступны варианты от i-Mini размером около 8,7 ГиБ и 3,94 BPW до i-Balanced размером около 13,9 ГиБ и 6,30 BPW, а также промежуточные профили. Это позволяет выбирать баланс между размером, потреблением памяти и качеством, однако фактическая производительность зависит от оборудования и выбранной квантизации. По заявленным тестам, декензурированная версия значительно реже отказывается отвечать: 6 отказов из 100 против 94 у исходной модели, при KL divergence 0,029. Ограничениями являются возможная потеря качества из-за pruning, декензурирования и квантизации, а также отсутствие подробных данных о контексте и комплексных бенчмарках. Указана лицензия Gemma; условия применения следует проверять по лицензии исходной модели и требованиям Google.

GeorgeCU/Giga-Embeddings-instruct-480M-0826-ft — дообученная модель текстовых эмбеддингов, созданная на основе ai-sage/Giga-Embeddings-instruct-480M-0826. Она предназначена для преобразования текстов в векторы, которые можно применять для семантического поиска, сравнения сходства предложений, классификации и кластеризации. Модель использует плотную двунаправленную архитектуру Qwen3 и библиотеку Sentence Transformers. В ней около 483,7 млн параметров, она принимает текст с контекстом до 8192 токенов и выдаёт эмбеддинги. В карточке указан русский язык; базовая модель описана как двуязычная, но второй язык для этой версии отдельно не подтверждён. Для загрузки в Sentence Transformers README показывает параметр trust_remote_code=True и нормализацию эмбеддингов. Модель распространяется по лицензии other; конкретные условия лицензии в предоставленных данных не раскрыты.

MoralHazard/GISTsmall — компактная модель Sentence Transformer на базе BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 384. Она была обучена на 1 244 примерах с anchor, positive и negative текстами; метаданные указывают на использование GISTEmbedLoss. Архитектура включает BERT, пулинг CLS-токена и нормализацию векторов, а сходство текстов оценивается косинусной мерой. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и получения признаков для классификации текста. Максимальная длина последовательности — 512 токенов; доступны файлы ONNX. Язык обучающих примеров в карточке не установлен, поэтому языковую поддержку определить нельзя. Лицензия в предоставленных данных не указана.

GLM-Z1-9B-0414 — компактная языковая модель семейства GLM-4 от Z.ai с 8,8 млрд параметров. Она предназначена для диалогов и генерации текста, включая математические рассуждения, решение задач на логику и код, а также общие запросы. Модель поддерживает интерфейс вызова инструментов и рассчитана на локальное развёртывание в условиях ограниченных ресурсов. Модель обучена на базе серии GLM-Z1 с дополнительной подготовкой для рассуждений; README отмечает применение холодного старта и расширенного обучения с подкреплением на задачах математики, кода и логики. Контекст составляет 32 768 токенов. Указаны китайский и английский языки. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Для длинных входов свыше 8 192 токенов README рекомендует при необходимости включать YaRN; статическое масштабирование может немного ухудшить результаты на коротких текстах. Модель выпущена под лицензией MIT.

Карточка модели emplitude/Hermes-2-Pro-Llama-3-8B на Hugging Face совпадает с карточкой NousResearch/Hermes-2-Pro-Llama-3-8B, поэтому описание составлено по ней. Hermes 2 Pro — диалоговая языковая модель Nous Research, разработанная совместно с @interstellarninja и Fireworks.AI. Это дообученная плотная модель семейства Llama 3 с 7,5 млрд параметров, основанная на NousResearch/Meta-Llama-3-8B. Она предназначена для диалогов и выполнения инструкций, а также для вызова функций и генерации структурированных ответов в JSON. Модель обучалась на обновлённом и очищенном датасете OpenHermes 2.5 и дополнительных наборах данных для вызова функций и JSON-режима. Модель использует формат диалога ChatML и поддерживает многошаговое взаимодействие с инструментами через специальный шаблон. Контекст составляет 8192 токена. В карточке указана поддержка английского языка; веса доступны в формате Safetensors. Лицензия — Llama 3 License.

QuantFactory/Hermes-2-Pro-Mistral-7B-GGUF — квантизированная версия языковой модели Hermes 2 Pro на базе Mistral 7B, созданная с использованием llama.cpp. Исходную модель разработали Nous Research при участии interstellarninja и Fireworks.AI; для обучения использовались очищенная версия датасета OpenHermes 2.5 и собственные наборы данных для вызова функций и генерации структурированного JSON. Модель предназначена для диалогов, выполнения общих текстовых задач, следования инструкциям, ролевых сценариев, вызова функций и выдачи данных в формате JSON. Она использует шаблон ChatML, поддерживает системные сообщения и многоходовые диалоги, а также специальную структуру для function calling. Заявлены результаты 90% на внутренней оценке вызова функций и 84% на оценке структурированного JSON-вывода. Модель относится к текстовым генеративным моделям, поддерживает английский язык и имеет размер базовой архитектуры 7 миллиардов параметров. Формат GGUF и квантизация ориентированы на запуск через совместимые инструменты, включая llama.cpp, однако конкретный уровень квантизации в README не указан. Контекстное окно также не указано. Ограничениями являются специализация на английском языке, меньшие возможности по сравнению с более крупными моделями и возможная потеря качества из-за квантизации. Модель распространяется по лицензии Apache 2.0.

Locutusque разработала Hyperion-3.0-Mistral-7B-alpha — языковую модель на архитектуре Mistral с 7,1 млрд параметров, дообученную на 200 тысячах примеров набора Hyperion-v3.0 на базе mistralai/Mistral-7B-v0.1. Модель генерирует текст и предназначена для диалогов, ответов на сложные вопросы и рассуждений в научных и технических областях. Её можно применять для генерации и анализа кода, математических и логических задач, обучения по естественным наукам и медицине, а также для понимания медицинских текстов. Карточка указывает английский язык; максимальная длина контекста составляет 32 768 токенов. Модель распространяется по лицензии Apache-2.0. Качество ответов может быть непоследовательным из-за различий в форматировании и качестве разметки обучающих данных. Модель склонна выполнять любые запросы; для корпоративного применения автор рекомендует дополнительное обучение с DPO.

Hypernova-14B — объединённая языковая модель на 14 млрд параметров, созданная сообществом mergekit-community из предварительно обученных моделей notmebug/Qwen2.5-14B-Merge и notmebug/Qwen2.5-14B-Coder-Merge. Для слияния применён метод SLERP; архитектура — плотная Qwen2 с причинной языковой моделью Qwen2ForCausalLM. Модель предназначена для генерации текста и диалогов, включая задачи, связанные с кодом. Поддерживает контекст до 131 072 токенов и представлена в формате safetensors для Transformers. Метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. В карточке не описаны конкретные языки или результаты оценки качества. Лицензия в предоставленных данных не указана.

KnutJaegersberg/infoxlm-large-sentence-embeddings — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерностью 1024. Она основана на XLM-RoBERTa и предназначена для поиска семантически близких текстов, кластеризации и семантического поиска. В обучении использовалась функция TripletLoss с евклидовой метрикой расстояния. Модель содержит 658,7 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. В карточке указаны форматы PyTorch и safetensors. Лицензия в предоставленных данных не приведена.

unsloth/inkling-GGUF — это GGUF-версия открытой мультимодальной модели Inkling, разработанной Thinking Machines и опубликованной в формате GGUF командой Unsloth. Модель предназначена для локального запуска, исследований, дообучения и интеграции в сторонние продукты. Inkling принимает текст, изображения и аудио, а генерирует текст. Она рассчитана на разработку AI-приложений, включая агентные и инструментальные системы, ассистентов программиста, чат-ботов, retrieval-augmented generation, следование инструкциям и универсальное мультимодальное общение. Поддерживаются английский язык, другие языки в многоязычном режиме, а также несколько языков программирования. Архитектура представляет собой авторегрессионный decoder-only Transformer из 66 слоёв с разреженной Mixture-of-Experts: всего 975B параметров, из которых активно 41B; для каждого токена выбираются 6 из 256 экспертов и используются 2 общих эксперта. Внимание сочетает локальные и глобальные слои. Изображения и видео обрабатываются иерархическим patch-энкодером, аудио — дискретными токенами, после чего модальности проецируются в общее скрытое пространство. Поддерживаются BF16 и NVFP4. Для оптимальной работы рекомендуются изображения размером от 40 до 4096 пикселей по каждой стороне и WAV-аудио с частотой 16 кГц длительностью менее 20 минут. Сильные стороны модели — сочетание текстовых, визуальных и аудиовходов, масштабная MoE-архитектура и пригодность для локального развертывания через совместимые инструменты. Ограничения включают исключительно текстовый вывод, очень большой общий размер и высокие требования к вычислительным ресурсам; точное окно контекста в README не указано. Модель распространяется по лицензии Apache 2.0; также указано наличие отдельной политики допустимого использования.

jina-embeddings-v5-omni-small — мультимодальная embedding-модель Jina AI на архитектуре Jina Embeddings V5 Omni. Она принимает текст, изображения, видео и аудио и отображает их в общее векторное пространство, согласованное с jinaai/jina-embeddings-v5-text-small. Модель содержит около 1,74 млрд параметров, формирует эмбеддинги размерности 1024 и поддерживает задачи поиска, классификации, кластеризации и сопоставления текстов. Базовый репозиторий включает адаптеры для этих четырёх задач. Модель подходит для мультимодального семантического поиска и RAG, классификации по сходству эмбеддингов, группировки похожих материалов, поиска дубликатов и сравнения текстов. Видео представляется кадрами; звуковая дорожка видео автоматически не обрабатывается, поэтому аудио нужно передавать отдельно. Можно загружать только нужные модальные компоненты и сокращать размерность эмбеддингов с нормализацией. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Для работы требуются совместимые версии Transformers и PyTorch; README также описывает использование через Sentence Transformers и vLLM.

jina-embeddings-v5-text-small-mlx — мультимодульная по задачам модель эмбеддингов Jina AI для Apple Silicon, основанная на Qwen3 и использующая четыре LoRA-адаптера для переключения задач. Репозиторий содержит базовые веса и адаптеры; при смене задачи адаптеры объединяются с весами на месте. Модель имеет 507,9 млн параметров, работает в float16 и создаёт векторы размерностью до 1024 с поддержкой Matryoshka-размеров 32, 64, 128, 256, 512, 768 и 1024. Максимальная длина последовательности — 32 768 токенов. Модель предназначена для семантического поиска, сравнения текстов и группировки документов; метаданные указывают задачу feature-extraction. Карточка сообщает о высокой близости результатов к предварительно объединённым контрольным точкам и переключении адаптеров примерно за 20 мс. Установка описана через MLX, поэтому применение ориентировано на устройства Apple Silicon. Модель основана на jinaai/jina-embeddings-v5-text-small и распространяется по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

Карточка модели hyuksoo1009/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели JoonBo/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели Morgan9803/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Карточка модели ratsheadhug/klue-roberta-base-klue-sts на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

TingChenChang/make-multilingual-en-zh-tw-20220825062338 — модель на базе XLM-RoBERTa, обученная для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации; в README указана возможность использования через Sentence-Transformers или Hugging Face Transformers с соответствующей операцией pooling. Модель содержит 305,2 млн параметров, работает с текстом и имеет контекстное окно 514 токенов. Название и карточка указывают на мультиязычную направленность, включая английский и традиционный китайский.

narraticlabs разработала MiniLM-L6-european-union — компактную модель Sentence Transformers на архитектуре BERT, полученную дистилляцией paraphrase-MiniLM-L12 и сокращением до 6 слоёв. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для сравнения смысла и поиска семантически похожих текстов. Модель подходит для семантического поиска и кластеризации текстов на языках Европейского союза. Модель содержит 110,2 млн параметров, принимает текст и имеет контекстное окно 512 токенов. В метаданных перечислена поддержка английского, немецкого, французского, испанского, итальянского, нидерландского, польского, португальского, венгерского, румынского, шведского, датского, финского, чешского, греческого, болгарского, хорватского, эстонского, латышского, литовского, мальтийского, словацкого и словенского языков. Репозиторий использует формат safetensors; лицензия — Apache-2.0.

MixEmbedBert-base-20240115163419-latest — компактная модель эмбеддингов на базе BERT для представления предложений и абзацев в виде плотных векторов размерности 384. Карточка описывает её как дистилляцию bge-small-en-v1.5; число параметров составляет 18,8 млн, контекст — до 512 токенов. Модель предназначена для семантического поиска, кластеризации и сравнения текстов. Она выдаёт текстовые эмбеддинги и поддерживает задачи извлечения признаков и оценки сходства предложений. В README заявлено, что модель содержит в четыре раза меньше неэмбеддинговых параметров, чем bge-small-en-v1.5, и имеет примерно вдвое меньше параметров, чем all-MiniLM-L6-v2, при сопоставимом качестве. Указанные семейство и учебная база ориентированы на английский язык. Для использования доступны варианты Sentence-Transformers и Transformers; при работе через Transformers необходимо применить подходящий pooling к контекстным представлениям токенов. В карточке не указана лицензия, поэтому условия использования по ней определить нельзя.

mmBERT-Embed-32K-2D-Matryoshka — мультиязычная модель эмбеддингов на архитектуре ModernBERT, разработанная llm-semantic-router и дообученная на llm-semantic-router/mmbert-32k-yarn. Модель содержит около 307 млн параметров, принимает текст длиной до 32 768 токенов и предназначена прежде всего для поиска по смыслу, семантического сходства и retrieval-сценариев, включая мультиязычный RAG и поиск по длинным документам. В карточке заявлена поддержка более 1800 языков. Поддержка 2D Matryoshka позволяет сокращать размерность эмбеддингов или извлекать их с промежуточных слоёв, выбирая баланс между качеством, скоростью и объёмом хранения. В репозитории представлены веса Safetensors и ONNX; модель работает с Sentence Transformers. Указана лицензия Apache-2.0. Ограничения: сокращение числа слоёв заметно снижает качество, а средний результат MTEB немного ниже приведённого в карточке результата BGE-M3. Модель оптимизирована для retrieval и может требовать дообучения для других задач.

Карточка модели Ruthvikkk/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

artdev99/MNLP_M3_document_encoder — модель для кодирования предложений и коротких абзацев в плотные векторы размерностью 384, отражающие их семантику. Это форк all-MiniLM-L6-v2, дообученный на базе nreimers/MiniLM-L6-H384-uncased с контрастивной целью на более чем миллиарде пар предложений. Модель использует архитектуру BERT и библиотеку Sentence Transformers; число параметров — 25,9 млн. Векторы подходят для семантического поиска, оценки сходства предложений и кластеризации. Модель принимает текст и выдаёт векторные представления; в README указано усечение входа длиннее 256 word pieces, а контекстное окно по метаданным составляет 512 токенов. В карточке заявлен английский язык. Модель распространяется по лицензии Apache-2.0.

Карточка модели OmarIDK/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

Карточка модели viols/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-large, поэтому описание составлено по ней. gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.

estrogen/ModernBERT-base-nli-v3 — англоязычная модель Sentence Transformers, дообученная на наборе all-nli для получения эмбеддингов предложений и абзацев. В основе лежит encoder-модель ModernBERT-base; архитектура использует ModernBertModel и mean pooling. Модель содержит 149 млн параметров, выдаёт плотные векторы размерностью 768 и поддерживает последовательности до 8192 токенов. Векторы предназначены для сравнения текстов по косинусному сходству и подходят для семантического поиска, поиска перефразирований, кластеризации и классификации текста. Обучение с MatryoshkaLoss поддерживает также укороченные представления размерностью 512, 256, 128 и 64. Для оценки сходства в README приведены результаты на STS-dev и STS-test. Лицензия в предоставленных данных не указана.

ModernBERT Embed Base — англоязычная модель эмбеддингов от Nomic AI, созданная на основе ModernBERT-base и обученная на слабонаблюдаемых и размеченных данных Nomic Embed. Она преобразует текст в векторы для семантического поиска, сравнения предложений, классификации и кластеризации. Модель имеет архитектуру ModernBERT, около 149 млн параметров и контекст до 8192 токенов; стандартная размерность эмбеддинга — 768. Поддерживается Matryoshka Representation Learning: вектор можно сократить до 256 измерений с небольшими потерями качества и меньшим расходом памяти. Модель подходит для поиска по документам и запросам, оценки смысловой близости текстов и других задач, использующих текстовые представления. Доступны веса Safetensors и ONNX, а README описывает использование через Transformers, Sentence Transformers и Transformers.js. Карточка приводит результаты на бенчмарках MTEB и сообщает о многоэтапном обучении с контрастивным предобучением и последующей настройкой на поисковых данных. Лицензия — Apache-2.0. По данным карточки, модель рассчитана на английский язык.

schaitanya/modernbert-embed-base-transcript-documents-v1 — англоязычная модель Sentence Transformers, дообученная на парах запросов и релевантных документов, включая транскрипты. Она кодирует предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска, сравнения текстов и извлечения релевантных документов; сходство оценивается косинусной мерой. В основе лежит ModernBERT с архитектурой среднего пулинга токенов и контекстом до 8192 токенов по метаданным; карточка модели указывает максимальную длину последовательности 1024 токена. Модель содержит 149 млн параметров и распространяется в формате safetensors. Модель подходит для поиска по транскриптам и документам, сопоставления коротких запросов с длинными текстами, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В обучающей выборке — 6116 пар «запрос — положительный документ»; приведённые в карточке метрики поиска показывают cosine_accuracy@1 0,5191, @3 0,7441 и @5 0,8. Поддерживается английский язык. Лицензия — Apache-2.0.

jamescalam/mpnet-nli-sts — модель на базе MPNet, разработанная James Calam для получения эмбеддингов предложений и абзацев. Она отображает текст в плотное векторное пространство размерности 768 и подходит для семантического поиска, сравнения сходства и кластеризации текстов. Модель дообучена на наборе STSb, используя jamescalam/mpnet-snli-negatives как исходную модель; в карточке сообщается о корреляции Пирсона около 0,9 по косинусному сходству на тестовой части STSb. Модель содержит 136,7 млн параметров, принимает английский текст, а её контекст ограничен 514 токенами. Распространяется в формате PyTorch по лицензии MIT.