II.8Инженерия данных и аналитика

QuantFactory/DeepSeek-Coder-V2-Lite-Instruct-GGUF — это квантизированная GGUF-версия инструкционной модели DeepSeek-Coder-V2-Lite-Instruct, подготовленная QuantFactory с использованием llama.cpp на основе разработки DeepSeek. Модель относится к классу генеративных языковых моделей для работы с текстом и кодом и предназначена для локального запуска и инференса в формате GGUF. Модель построена на архитектуре Mixture-of-Experts (MoE) семейства DeepSeekMoE и содержит 16 млрд параметров, из которых при обработке активируется около 2,4 млрд. Максимальная длина контекста составляет 128K токенов. DeepSeek-Coder-V2 поддерживает 338 языков программирования и ориентирована на генерацию, дополнение и вставку кода, решение задач программирования и математическое рассуждение, а также на диалоговое использование в формате instruct. README не содержит точного перечня естественных языков. К сильным сторонам относятся специализация на программировании, расширенная поддержка языков программирования, длинный контекст и сниженные вычислительные требования благодаря MoE и квантизации. Ограничения конкретного варианта, включая точный тип и уровень квантизации, размер файла и требования к памяти, в README не указаны; качество также может зависеть от используемого рантайма и аппаратной конфигурации. Модель распространяется по лицензии DeepSeek License; указан тип лицензии other и ссылка на файл LICENSE.

distiluse-base-multilingual-cased-v1 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для поиска по смыслу, сравнения текстов и кластеризации. Архитектура основана на DistilBERT; модель принимает текст и выдаёт эмбеддинги. Поддерживает арабский, китайский, нидерландский, английский, французский, немецкий, итальянский, корейский, польский, португальский, русский, испанский и турецкий языки. Максимальная длина контекста — 512 токенов. Распространяется по лицензии Apache-2.0.

Dolphin 2.9.1 Qwen 110B — языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и командой Cognitive Computations на базе Qwen1.5-110B. Модель с плотной архитектурой Qwen2 содержит 110 млрд параметров; её дообучили полным обновлением весов в формате ChatML. Базовая модель поддерживает контекст до 32 768 токенов, а дообучение проводилось с длиной последовательности 8 000 токенов. Модель предназначена для диалогов и выполнения инструкций, генерации кода, решения математических задач, вызова функций и сценариев с агентными возможностями. В карточке указана лицензия Tongyi Qianwen; коммерческое использование разрешено в рамках её условий. Модель описана авторами как uncensored и может охотно выполнять небезопасные запросы, поэтому перед предоставлением пользователям её следует дополнить собственным слоем фильтрации и контроля.

Dracarys2-Llama-3.1-70B-Instruct — текстовая модель Abacus.AI, дообученная на основе meta-llama/Meta-Llama-3.1-70B-Instruct для улучшения результатов в задачах программирования. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она принимает текст и поддерживает диалоговый формат Llama 3 Instruct. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации кода, анализа кода, предсказания результатов тестов и решения общих задач с инструкциями. В приведённых авторами оценках LiveCodeBench она показала более высокие результаты базовой модели в генерации кода и предсказании вывода тестов; показатели зависят от задачи и режима оценки. Доступна в формате Safetensors для Transformers. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

seongil-dn/e5-large-neg-v0-bs40-lr1e-6-7541 — дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-large, разработанная seongil-dn. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 1024 для сравнения по косинусному сходству. Архитектура включает XLM-RoBERTa, усреднение токенных представлений и нормализацию; максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, оценки смыслового сходства, поиска перефразировок, кластеризации и классификации текстов. Базовая модель мультиязычная, поэтому эмбеддинги можно применять к текстам на разных языках. В метаданных указана лицензия? Нет сведений о лицензии в предоставленных данных, поэтому условия использования определить нельзя.

EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

EmbeddingGemma — компактная модель эмбеддингов Google DeepMind с 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель обучалась на текстах более чем на 100 языках и рассчитана на запуск на устройствах с ограниченными ресурсами, включая телефоны и ноутбуки. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; благодаря Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Подходит для поиска документов и кода по запросу, обнаружения дубликатов и подбора материалов для систем вопросов и ответов. Возможны ошибки при понимании языковых нюансов и неоднозначности; качество зависит от охвата обучающих данных. Лицензия — Gemma; применяются условия использования Gemma и политика запрещённого использования Google.

G9v3-39A5B — причинная языковая модель AI9Stars для диалогового помощника, генерации кода, использования инструментов и задач на рассуждение. Модель построена по архитектуре Mixture-of-Experts: в карточке указаны 39 млрд параметров суммарно и около 5 млрд активируемых на токен. Метаданные каталога при этом описывают архитектуру как плотную, поэтому сведения о разреженной MoE-структуре расходятся. Модель поддерживает режимы Think и No Think и контекст до 131 072 токенов. Предназначена для локального и самостоятельного развёртывания; для работы указана библиотека Transformers. Заявленная поддержка языков — английский и китайский. Модель распространяется по лицензии Apache-2.0. Как предварительный выпуск, модель может менять поведение между версиями. Ответы могут быть неточными, предвзятыми или небезопасными; их следует проверять, особенно перед применением в значимых решениях.

GDN-primed-HQwen3-8B-Instruct — созданная Amazon инструкционная гибридная языковая модель на базе Qwen3-8B. В ней 18 слоёв Attention и 18 слоёв Gated DeltaNet (GDN), то есть половина слоёв внимания заменена на слои модели пространства состояний. Модель содержит около 7,6 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов; веса доступны в формате safetensors, библиотека — Transformers. Модель предназначена для диалогов и выполнения инструкций, включая генерацию текста, ответы на вопросы, задачи с длинным контекстом, код и рассуждения. По данным разработчика, гибридная архитектура может ускорять генерацию на длинных последовательностях и снижать расход памяти на KV-кэш при близком к базовой трансформерной модели качестве. Это инструкционная модель, не рассчитанная на выдачу chain-of-thought токенов; вызов инструментов не поддерживается. Лицензия — Apache 2.0.

Карточка модели Ccre/gemma-embedding-model на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

GKA-primed-HQwen3-32B-Reasoner — гибридная причинная языковая модель, созданная Amazon на основе Qwen3-32B с помощью конвейера Priming. В ней 32 слоя Attention и 32 слоя Gated KalmaNet (GKA): GKA — рекуррентный слой типа модели пространства состояний, который решает задачу онлайн-регрессии и использует постоянный объём памяти при линейной по длине последовательности вычислительной стоимости. Модель содержит 29,7 млрд параметров и принимает контекст до 128 тысяч токенов. Модель предназначена для диалогов и рассуждений в длинном контексте: решения математических и научных задач, программирования, следования инструкциям и вызова инструментов. Режим рассуждений можно включать и отключать. По заявлению авторов, гибридная архитектура ускоряет генерацию до двух раз на длинном контексте и сокращает расход памяти на KV-кэш; опубликованные тесты показывают близкое к базовой Qwen3-32B или более высокое качество на большинстве перечисленных задач, но более низкий результат на SciCode. Модель доступна в формате safetensors, точность bfloat16, по лицензии Apache 2.0.

GLM-4.5-Air — компактная гибридная модель серии GLM-4.5 от Zhipu AI, разработанная для интеллектуальных агентов. Она объединяет генерацию текста, рассуждение, программирование и работу с инструментами; поддерживает режим обдумывания для сложных запросов и вызовов инструментов, а также режим быстрого ответа. По карточке модели, у GLM-4.5-Air 106 млрд параметров, из которых активны 12 млрд. Метаданные Hugging Face указывают архитектуру GLM4 MoE, класс Glm4MoeForCausalLM, 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговых приложений, задач программирования и агентных сценариев с использованием инструментов. Она поддерживает английский и китайский языки и распространяется в формате Safetensors; библиотека Transformers указана как основная. Лицензия MIT разрешает коммерческое использование и дальнейшую разработку. Значения общего и активного числа параметров из README расходятся с числом параметров в метаданных, поэтому размер следует считать противоречивым.

GLM-4.7 — языковая модель компании Z.ai для программирования, диалогов и сложных многошаговых задач. Модель с архитектурой семейства GLM-4 MoE содержит 23,4 млрд параметров и имеет контекстное окно 202 752 токена. Она принимает текст и генерирует текст; поддерживает английский и китайский языки, режим чата и вызов инструментов. Модель предназначена для генерации и отладки кода, работы в терминале и агентных системах, а также для математических рассуждений, веб-разработки, создания слайдов и обычного общения. Поддерживает чередование рассуждений и действий, сохранение блоков рассуждений между ходами и управление режимом рассуждений на уровне хода. В README отмечены улучшения относительно GLM-4.6 в задачах программирования, использования инструментов и рассуждений; приведённые результаты являются оценками на выбранных бенчмарках и не гарантируют аналогичного качества в каждом сценарии. Модель распространяется под лицензией MIT. Для локального запуска README указывает Transformers, vLLM и SGLang; поддержка GLM-4.7 в vLLM и SGLang требует основных веток проектов.

unsloth/GLM-5.2-GGUF — это GGUF-версия языковой модели GLM-5.2, подготовленная Unsloth на основе модели zai-org/GLM-5.2, разработанной командой GLM-5. Модель предназначена для генерации текста, решения сложных задач с длинным горизонтом планирования, программирования, агентской работы и использования инструментов. Заявлена поддержка английского и китайского языков. Модель рассчитана на контекст до 1 миллиона токенов и поддерживает несколько уровней интенсивности рассуждений, позволяя выбирать баланс между качеством и задержкой. В архитектуре используется IndexShare, повторно применяющий один индексатор для каждой группы из четырёх разреженных attention-слоёв и снижающий вычисления на токен при контексте в 1 миллион токенов. Улучшенный слой MTP предназначен для speculative decoding и, по данным README, увеличивает длину принимаемой последовательности до 20%. Представлена в формате GGUF с вариантами квантования, включая 1-bit UD-IQ1_M. Сильными сторонами являются работа с очень длинным контекстом, задачи программирования, математическое и общее рассуждение, а также сценарии агентской инженерии и взаимодействия с инструментами. Ограничения конкретной GGUF-версии, требования к памяти и производительность зависят от выбранного варианта квантования и используемого оборудования; подробные размеры модели в README не указаны. Модель распространяется по лицензии MIT.

harkov000 создал объединённую модель Hermes-Dolphin-8B-v0.2-alt методом SLERP с помощью mergekit. Она сочетает Hermes-3-Llama-3.1-8B и Dolphin-2.9.4-Llama3.1-8B и предназначена для диалогов, выполнения инструкций, рассуждений, генерации текста и кода, а также взаимодействия с инструментами. Модель построена на плотной архитектуре Llama с классом LlamaForCausalLM и содержит 7,5 млрд параметров. Она принимает текст и генерирует текст; заявленный контекст — до 131 072 токенов. В метаданных указаны возможности чата и интерфейс вызова инструментов. Базовая Hermes 3 описана как англоязычная, однако сведения не устанавливают полный набор языков объединённой модели. Файлы представлены в формате safetensors, а веса объединения заданы в bfloat16. Лицензия в предоставленных данных не указана.

Карточка модели thetechoddbug/Hy4-preview на Hugging Face совпадает с карточкой tencent/Hy4-preview, поэтому описание составлено по ней. Hy4 preview — языковая модель поколения Hy4, разработанная командой Tencent Hy. README описывает её как модель Mixture-of-Experts с 770 млрд параметров в основной части и 49 млрд активируемых параметров на токен; встроенный слой MTP предназначен для ускорения спекулятивного декодирования. Метаданные Hugging Face указывают архитектуру HYV4ForCausalLM, библиотеку Transformers, 33,9 млрд параметров и контекст до 1 048 576 токенов; эти значения расходятся с характеристиками в README. Модель предназначена для диалоговой генерации текста и сложных задач: разработки и отладки программ, работы с документами и таблицами, анализа данных, создания прототипов игр и решения научных задач. В README также заявлены сценарии подготовки презентаций и финансовых моделей. Указанная в карточке лицензия — Apache-2.0. Это ранняя preview-версия. Известные ограничения — избыточно долгие рассуждения на сложных задачах и склонность чрезмерно перепроверять результат.

AMAImedia/Hy4-preview-BF16-GGUF — размещённая AMAImedia сборка модели Hy4 preview, разработанной Tencent Hy Team. Это диалоговая модель семейства hy_v4 с архитектурой Mixture-of-Experts; исходная модель содержит 770 млрд параметров, из которых активируются 49 млрд на токен. В архитектуре используются 78 слоёв, разреженное внимание Gated DeepSeek Sparse Attention и слой MTP для ускорения спекулятивного декодирования. Карточка указывает контекст длиной до 1 048 576 токенов. Модель предназначена для генерации текста и диалога, включая разработку и отладку программ, анализ документов и данных, подготовку офисных материалов, создание игровых прототипов и научные задачи. Hy4 preview также поддерживает сценарии с изображениями согласно тегу image-text-to-text. В метаданных заявлены языки, включая английский, русский, китайский, вьетнамский и японский; карточка перечисляет дополнительные языки. Репозиторий обозначен как GGUF BF16, однако метаданные также содержат форматы GGUF Q4_K_M и safetensors. Это ранняя версия: README отмечает склонность тратить лишнее время на сложные рассуждения и чрезмерно перепроверять результаты. Модель опубликована под лицензией Apache-2.0. Связь с tencent/Hy4-preview и AngelSlim/Hy4-preview-GGUF указана в метаданных как merge.

Ling-3.0-flash — разговорная языковая модель компании Inclusion AI для генерации текста, рассуждений и выполнения агентных задач. В README описана гибридная линейная архитектура MoE с чередованием Kimi Delta Attention и gated MLA; заявлены 124 млрд параметров всего и 5,1 млрд активных на токен. Метаданные Hugging Face указывают размер 3,5 млрд параметров, поэтому точный размер модели по источникам расходится. Модель предназначена для задач программирования, следования инструкциям, математических рассуждений, работы с длинным контекстом и агентных сценариев, включая исследование и многошаговые рабочие процессы. Заявленное контекстное окно — 262 144 токена. README сообщает о тестировании на бенчмарках для кодирования и агентов, но это не гарантирует аналогичное качество в конкретных приложениях. Модель принимает текст и генерирует текст; сведений о поддержке других модальностей нет. Лицензия — MIT.

Ling-3.0-flash — разговорная модель генерации текста с гибридной линейной архитектурой MoE, представленная разработчиками Ling. README описывает версию на 124 млрд параметров, из которых активируются 5,1 млрд на токен; в метаданных репозитория указаны 3,5 млрд параметров. Архитектура сочетает Kimi Delta Attention и Gated MLA, а заявленное окно контекста достигает 262 144 токенов. Модель предназначена для рассуждений, следования инструкциям, понимания длинного контекста и агентных сценариев: программирования, общих задач и глубокого исследования. README также отмечает обучение на интерактивных средах и совместимость с агентными инструментами. Репозиторий содержит веса Safetensors; лицензия — MIT. В README приводятся результаты на бенчмарках для кода, агентных задач, знаний, математики и длинного контекста, но эти заявления относятся к оценкам разработчиков. Для запуска описана конфигурация SGLang на нескольких мощных GPU, поэтому практическое развёртывание может требовать значительных вычислительных ресурсов.

Ling-mini-2.0 — компактная разговорная языковая модель семейства Ling 2.0 от inclusionAI, предназначенная для генерации текста, следования инструкциям и решения задач на рассуждение. Это дообученная версия Ling-mini-base-2.0; по метаданным, она использует архитектуру Bailing MoE для причинного языкового моделирования и содержит 1,2 млрд параметров. README описывает семейство Ling-mini-2.0 как разреженную MoE-модель с 16,26 млрд параметров всего и примерно 1,43 млрд активных на токен, обученную на более чем 20 трлн токенов с многоэтапной настройкой и обучением с подкреплением. Модель подходит для диалоговых приложений, сложных рассуждений, математики, программирования и ответов на вопросы, а также предоставляет интерфейс вызова инструментов. Метаданные указывают контекст 32 768 токенов; README сообщает о расширении до 128K с YaRN. Разработчик заявляет о высокой скорости генерации и сильных результатах на тестах рассуждения, однако приведённые показатели зависят от оборудования и режима развёртывания. Веса доступны в формате safetensors, библиотека — Transformers; лицензия MIT.

Llama-3.1-Nemotron-Nano-4B-v1.1 — языковая модель NVIDIA на базе nvidia/Llama-3.1-Minitron-4B-Width-Base, созданной из Llama 3.1 8B методом сжатия. Это плотный декодерный Transformer семейства Llama с 3,9 млрд параметров, дообученный для рассуждений, общения по инструкциям, математики, программирования, работы с RAG и вызова инструментов. Модель рассчитана на текстовый ввод и вывод, поддерживает контекст до 131 072 токенов и может запускаться локально на одной RTX GPU. Модель предназначена для чат-ботов, AI-агентов и приложений, которым нужны ответы на вопросы, следование инструкциям и многошаговые рассуждения. Режим рассуждений управляется системным промптом; для вызова инструментов предусмотрены шаблон чата и парсер для vLLM. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. В карточке указана возможность коммерческого использования; лицензия обозначена как other, поэтому перед внедрением следует ознакомиться с условиями лицензии репозитория. Результаты зависят от формата запроса и настроек декодирования; опубликованные оценки получены при длине последовательности 32K и не гарантируют такого же качества на всех задачах или при использовании полного контекста.

Lychee-embed — многоязычная модель для создания текстовых эмбеддингов, совместно разработанная командой NLP Харбинского технологического института в Шэньчжэне. Она основана на Qwen2.5-1.5B и дообучена по многоэтапной схеме с разогревом, обучением на задачах, слиянием моделей и финальным дообучением. Модель предназначена для семантического поиска, сравнения сходства текстов и других задач на основе эмбеддингов. Модель содержит 1,5 млрд параметров, принимает текст и выдаёт векторы размерностью до 1536; поддерживаются настраиваемые размерности от 32 до 1536 и инструкции, задающие контекст задачи. README заявляет поддержку более 100 языков и длину последовательности 8K, тогда как метаданные указывают нативный контекст 32768 токенов. Репозиторий распространяется в формате safetensors, лицензия — Apache-2.0. Для повышения качества поиска авторы рекомендуют подбирать инструкции под задачу; README сообщает, что их отсутствие на стороне запроса может снизить качество примерно на 1–5%.

Многоязычная модель Sentence Transformer, дообученная на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 для получения векторных представлений предложений и абзацев. Архитектура основана на BERT; модель содержит 124,3 млн параметров и формирует плотные векторы размерности 384. README указывает максимальную длину последовательности 128 токенов, а метаданные — контекстное окно 512 токенов. Модель предназначена для семантического поиска и сравнения текстов по косинусному сходству, поиска перефразирований, кластеризации и классификации текста. При обучении использовались 101 072 примера и MultipleNegativesRankingLoss. Модель поддерживает множество языков благодаря многоязычной базовой модели; языки в карточке отдельно не перечислены. Веса опубликованы в формате safetensors и используются через библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.

MiniMax-M1-40k — открытая по весам языковая модель MiniMax AI для рассуждений, генерации текста и работы в агентных сценариях. Она использует гибридную архитектуру Mixture-of-Experts с механизмом lightning attention и обучалась с подкреплением на задачах от математических рассуждений до программной инженерии. Вариант 40k рассчитан на бюджет рассуждений до 40 тысяч токенов; метаданные указывают 21,6 млрд параметров и контекст до 10 240 000 токенов. Модель подходит для решения сложных математических задач, написания и анализа кода, работы с длинными документами и использования инструментов через интерфейс function calling. В карточке приведены результаты тестирования на математических, программных, агентных и длинноконтекстных задачах; авторы рекомендуют температуру 1,0 и top_p 0,95. Модель принимает и генерирует текст. README описывает её как модель общего назначения, но не перечисляет поддерживаемые естественные языки. Лицензия репозитория — Apache-2.0. Для воспроизведения результатов стоит учитывать, что оценки SWE-bench получены на выбранном подмножестве задач с описанной авторами методикой.

MiniMax-M1-80k — открытая по весам языковая модель компании MiniMax для рассуждений и генерации текста. Она построена на гибридной архитектуре Mixture-of-Experts с механизмом lightning attention и содержит 21,6 млрд параметров согласно метаданным. Модель развита на основе MiniMax-Text-01 и обучалась с использованием масштабного обучения с подкреплением на задачах от математики до программной инженерии. Версия 80k рассчитана на расширенное пошаговое рассуждение с бюджетом мышления до 80 тысяч токенов. Заявленная длина контекста — 10 240 000 токенов; модель предназначена для сложных задач с длинными входами, включая решение математических задач, программирование, анализ кода и работу с инструментами. Поддерживает диалоговый режим и интерфейс вызова инструментов. В README разработчик сообщает о высоких результатах на ряде задач по математике, программированию, использованию инструментов и пониманию длинного контекста; приведённые оценки зависят от методики и настроек генерации. Модель работает с текстом и выдаёт текст, а также структурированные вызовы функций. Лицензия — Apache 2.0. README не уточняет поддерживаемые естественные языки.

ML-Embed-0.6B — мультиязычная модель эмбеддингов текста от CodeFuse AI, дообученная в два этапа на основе Qwen3-0.6B. Она преобразует текст в векторы размерности 1024 для семантического поиска, плотного извлечения документов, RAG, кластеризации, классификации, поиска дубликатов и межъязыкового сравнения. Архитектура использует причинное внимание, а представление последовательности строится по токену EOS; максимальная длина контекста — 40 960 токенов. Модель поддерживает множество языков, включая английский, китайский и русский, и совместима с обычной загрузкой через Transformers и Sentence Transformers. Обучение Matryoshka позволяет сокращать число слоёв и размерность эмбеддингов, а также использовать факторизованные матрицы для более экономного развёртывания; такие режимы могут снижать качество. Для задач поиска рекомендуется добавлять инструкцию к запросу, но не к документам. Лицензия — Apache-2.0.

onelevelstudio/M-MPNET-BASE — резервная копия модели sentence-transformers/paraphrase-multilingual-mpnet-base-v2, обученной командой sentence-transformers. Модель на базе XLM-RoBERTa преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения предложений и кластеризации. Она принимает текст и выдаёт эмбеддинги; поддерживает множество языков, включая русский. Контекст — до 514 токенов, размер — 305,2 млн параметров. Модель подходит для поиска близких по смыслу текстов и группировки многоязычных документов. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0.

Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Карточка модели nounagnonsavoedo/multilingual-e5-base на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Data-Lab multilingual-e5-large-instruct-embedder_distill-tgd — дообученная модель Sentence Transformer на базе intfloat/multilingual-e5-large-instruct, разработанная Data-Lab. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска и сравнения текстов. Архитектура включает XLM-RoBERTa, усреднение токенных представлений и нормализацию; модель использует косинусное сходство и принимает последовательности длиной до 514 токенов по метаданным. Модель подходит для поиска близких по смыслу документов, оценки сходства текстов, поиска перефразирований, кластеризации и классификации на основе эмбеддингов. В README приведена точность cosine_accuracy 0,8994 на dev-наборе TripletEvaluator, но это значение относится только к указанной оценке и не гарантирует качество на других данных. Метаданные не уточняют языковой охват дообученной версии; базовая модель многоязычная. Репозиторий содержит веса Safetensors; сведения о лицензии в предоставленных данных отсутствуют.