II.8Инженерия данных и аналитика

gemasphi/laprador_mmarco — модель Sentence-Transformers на базе BERT для преобразования предложений и абзацев в плотные векторные представления размерности 768. Её обучили с помощью MultipleNegativesRankingLoss на основе косинусного сходства; в метаданных указаны 79,5 млн параметров и контекст до 512 токенов. Модель подходит для семантического поиска, сравнения текстов и кластеризации. Она принимает текст и выдаёт эмбеддинги, которые можно использовать для поиска похожих фрагментов или группировки текстов. Для работы доступны Sentence-Transformers и Transformers с подходящей операцией pooling. В репозитории указан формат PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

ronanki/MiniLM-L12-v2-SEP-token — модель Sentence-Transformers для получения векторных представлений предложений и абзацев. Она основана на архитектуре BERT и выдаёт плотные эмбеддинги размерностью 384; в метаданных указано 124,3 млн параметров и контекст до 512 токенов. Модель предназначена для семантического поиска, кластеризации текстов и сравнения предложений по смыслу. При обучении применялась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Для использования подходит библиотека Sentence-Transformers; через Transformers требуется отдельно применить подходящую операцию pooling к контекстным представлениям токенов. README и метаданные не указывают лицензию или целевые языки, поэтому их нельзя определить по имеющимся сведениям. Модель публикуется в формате PyTorch.

LamaDiab/MiniLM-V6Data-SemanticEngine — модель Sentence Transformer на базе BERT, обученная для сопоставления предложений и абзацев в семантическом пространстве. Она преобразует текст в плотные векторы размерности 384; сходство можно оценивать косинусной мерой. Модель предназначена для семантического поиска, сравнения текстов и выявления перефразировок, а также подходит для кластеризации и классификации текстов на основе эмбеддингов. В обучении использован набор из 291 522 пар anchor–positive с функцией потерь MultipleNegativesSymmetricRankingLoss. В README указана максимальная длина последовательности 256 токенов, а метаданные Hugging Face указывают нативное контекстное окно 512 токенов; для работы следует учитывать ограничение, заданное конфигурацией модели. Оценка cosine accuracy на приведённом тесте составляет 0,9456. Модель принимает текст и возвращает нормализованные векторы; язык обучения и лицензия в доступных данных не указаны.

Mira — разговорная языковая модель SmilyAI для технического общения, рассуждений, математики и помощи с программированием. Она основана на Nova-2-Large, созданной на базе Qwen3-14B слиянием DARE-TIES, а затем дообучена с помощью LoRA. В репозитории указана архитектура Qwen3ForCausalLM, около 14 млрд параметров по метаданным и контекст до 40 960 токенов. Модель предназначена для генерации ответов в диалоге, объяснения технических тем, написания и отладки кода, а также решения математических задач. Карточка описывает дружелюбный, энергичный стиль общения и возможность конструктивного шуточного режима при проверке кода. Основной язык — английский; доступны веса safetensors для Transformers. Mira может ошибаться в фактах, коде и математике, неверно понимать неоднозначные запросы и давать уверенные, но неправильные объяснения; результаты следует проверять человеком, особенно перед использованием в важных системах. Лицензия обозначена как other, конкретные условия использования в карточке не раскрыты.

ronanki/ml_mpnet_768_MNR_15 — модель Sentence Transformers на архитектуре XLM-RoBERTa, разработчик — ronanki. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на ранжирование пар предложений.

artdev99/MNLP_M3_document_encoder — модель для кодирования предложений и коротких абзацев в плотные векторы размерностью 384, отражающие их семантику. Это форк all-MiniLM-L6-v2, дообученный на базе nreimers/MiniLM-L6-H384-uncased с контрастивной целью на более чем миллиарде пар предложений. Модель использует архитектуру BERT и библиотеку Sentence Transformers; число параметров — 25,9 млн. Векторы подходят для семантического поиска, оценки сходства предложений и кластеризации. Модель принимает текст и выдаёт векторные представления; в README указано усечение входа длиннее 256 word pieces, а контекстное окно по метаданным составляет 512 токенов. В карточке заявлен английский язык. Модель распространяется по лицензии Apache-2.0.

nomic-ai/modernbert-embed-base-unsupervised — англоязычная модель эмбеддингов на базе encoder-only архитектуры ModernBERT. Разработчики обучили её с помощью библиотеки contrastors в течение одной эпохи на 235 млн слабонаблюдаемых контрастивных пар из набора Nomic Embed. Модель содержит 149 млн параметров, принимает текст и формирует векторные представления; максимальная длина контекста — 8192 токена. Модель предназначена для поиска по смыслу, сравнения предложений и других задач, использующих текстовые эмбеддинги. В тестах MTEB она показала результаты, близкие к nomic-embed-text-v1_unsup; авторы рекомендуют modernbert-embed для задач построения эмбеддингов. Доступны веса в формате safetensors. Лицензия — Apache-2.0.

Это модель Sentence Transformers, разработанная trmteb и дообученная на базе intfloat/multilingual-e5-base на слабоконтролируемом контрастивном наборе турецких текстов. Она кодирует предложения и абзацы в плотные векторы размерности 768; архитектура включает XLM-RoBERTa, усреднение токенных представлений и нормализацию. Сходство векторов можно оценивать косинусной мерой. Модель предназначена для семантического поиска и сопоставления текстов, оценки семантического сходства, поиска перефразировок, кластеризации и классификации текстов. Контекст ограничен 512 токенами по README (в метаданных указано 514). Обучающий набор содержит около 60 млн пар «запрос — релевантный текст» на турецком языке; базовая модель многоязычная, однако карточка не уточняет языковой охват этой версии. Модель принимает текст и выдаёт эмбеддинги, которые можно использовать в системах поиска и анализа. Модель поставляется в формате safetensors и использует библиотеку sentence-transformers. В карточке не указана лицензия, поэтому условия использования следует проверить в репозитории модели.

Nemotron-3-Embed-8B-BF16 — мультиязычная модель эмбеддингов текста, разработанная NVIDIA на основе Ministral-3-8B-Instruct-2512. Она преобразует текст в плотные векторы размерности 4096 для поиска по сходству, семантического поиска, межъязыкового поиска и систем RAG. Модель содержит около 8 млрд параметров; в README указаны архитектура Transformer с двунаправленным маскированием внимания и усреднением выходов токенов. Метаданные указывают семейство Ministral 3 и контекстное окно 262144 токена, тогда как README рекомендует ограничивать вход 32768 токенами и разбивать или обрезать более длинные тексты. Модель рассчитана на текстовые корпуса и многоязычные сценарии поиска, включая поиск вопросов и документов на разных языках. README сообщает об оценке на 34 языках и о результатах на мультиязычном бенчмарке RTEB; также поддерживается получение укороченных векторов с последующей L2-нормализацией. Для запуска примеров требуются совместимые версии Transformers, CUDA и PyTorch; заявлена оптимизация для систем с GPU NVIDIA. Указанная лицензия модели — OpenMDW-1.1; базовая модель выпущена под Apache 2.0.

nli-distilroberta-base-v2 — модель sentence-transformers, обученная командой Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 на основе архитектуры RoBERTa; число параметров — 95,2 млн, максимальный контекст — 514 токенов. Модель предназначена для получения эмбеддингов и сравнения смысловой близости текстов, а также подходит для семантического поиска и кластеризации. Её можно использовать в поисковых системах для ранжирования текстов по смысловому сходству, группировки похожих документов и анализа близости предложений. Модель доступна в форматах PyTorch, TensorFlow, Flax, ONNX и OpenVINO. Лицензия — Apache-2.0. Языковая специализация в карточке не обозначена.

swardiantara/one-stage-k3-MiniLM-L12-v2 — модель sentence-transformers на архитектуре BERT, разработчик обучил её для преобразования предложений и абзацев в плотные векторы размерности 384. Её можно применять для семантического поиска и кластеризации текстов; метаданные также указывают возможность извлечения признаков. Модель содержит около 40 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Это подходит для сравнения смысловой близости текстов и построения векторного поиска. README не сообщает обучающие данные, поддерживаемые языки или лицензию, поэтому нельзя оценить языковой охват и условия коммерческого использования.

Locutusque/Orca-2-13b-SFT-v6 — плотная языковая модель семейства LLaMA, созданная полным дообучением microsoft/Orca-2-13b на наборах инструкций и диалогов, включая No Robots, EverythingLM, Capybara, Pure-Dove, LessWrong-Amplify-Instruct, Verified-Camel, Guanaco и OpenAssistant. Модель содержит 12,9 млрд параметров, использует архитектуру LlamaForCausalLM, распространяется в формате safetensors и рассчитана на контекст до 4096 токенов. Для запросов применяется шаблон ChatML. Модель предназначена для генерации ответов на инструкции и вопросы, рассуждений, суммаризации и программирования. В README приведены результаты оценивания на бенчмарках AI2 Reasoning Challenge и HellaSwag, а также значение test loss на Verified-Camel; эти показатели характеризуют отдельные тесты и не гарантируют качество во всех сценариях. В метаданных отмечена поддержка английского, французского, испанского, хинди и китайского языков. Использование регулируется лицензией Microsoft Research; перед применением следует учитывать её условия.

paraphrase-albert-base-v2 — модель Sentence Transformers на архитектуре ALBERT, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768, предназначенные для сравнения семантической близости, кластеризации и семантического поиска. Для обработки текстов использует библиотеку sentence-transformers; также доступны форматы PyTorch, TensorFlow, ONNX и OpenVINO. Модель подходит для поиска похожих фраз и документов, группировки текстов по смыслу и построения эмбеддингов для поиска. Размер модели — 136,3 млн параметров, максимальная длина входа — 512 токенов. Лицензия Apache-2.0. В README не заявлена поддержка конкретных языков, поэтому языки и основной язык не указаны.

paraphrase-distilroberta-base-v1 — модель sentence-transformers, разработанная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации. Архитектура основана на RoBERTa; модель содержит 95,2 млн параметров, принимает текст с контекстом до 514 токенов и предназначена для создания текстовых эмбеддингов. Модель подходит для поиска предложений и документов по смыслу, группировки похожих текстов и оценки семантического сходства. Карточка не описывает основной язык обучения, поэтому конкретные языковые преимущества не заявлены. Модель распространяется по лицензии Apache-2.0; при использовании через Transformers требуется применить подходящий pooling к контекстным представлениям токенов.

Карточка модели KOLKAHORKOV/paraphrase-multilingual-MiniLM-L12-v2 на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

jamiealexandre/paraphrase-multilingual-mpnet-base-v2-konni — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерностью 768. Она основана на архитектуре XLM-RoBERTa, содержит 305,2 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель предназначена для получения эмбеддингов, семантического поиска, сравнения текстов и кластеризации. Разработчик карточки указывает Sentence-Transformers; README описывает базовую модель paraphrase-multilingual-mpnet-base-v2. Векторные представления подходят для поиска похожих фрагментов и группировки текстов по смыслу. Для использования с Transformers требуется корректно применять pooling к контекстным представлениям токенов; Sentence-Transformers упрощает этот шаг. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

pplx-embed-v1-0.6B — мультиязычная плотная модель текстовых эмбеддингов от Perplexity AI, построенная на Qwen3, прошедшей дополнительное предобучение с использованием diffusion. Она предназначена для поиска по смыслу и извлечения релевантных текстов в масштабных корпусах: модель независимо кодирует запросы и документы, поэтому подходит для семантического поиска и retrieval-компонентов RAG. Модель содержит 507,9 млн параметров, принимает текст с контекстом до 32 768 токенов и выдаёт векторы размерности 1024. Используется mean pooling; модель не требует инструкционного префикса. Веса доступны в форматах Safetensors и ONNX. В README указано, что эмбеддинги по умолчанию имеют INT8-квантизацию и не нормализованы: для сравнения следует использовать косинусное сходство. Лицензия — MIT.

unsloth/Qwen2.5-Coder-14B-Instruct — это инструкционная языковая модель для генерации и анализа кода, представленная в формате Unsloth и основанная на Qwen/Qwen2.5-Coder-14B-Instruct. Она использует плотную архитектуру Qwen2 с причинным декодером и содержит 14 млрд параметров; для запуска через Transformers доступны веса Safetensors. Модель рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговых сценариев разработки: написания и дополнения кода, анализа программ, исправления ошибок и работы в агентных сценариях. Карточка Qwen2.5-Coder описывает усиление генерации, рассуждений и исправления кода при сохранении общих математических и языковых навыков. Поддерживается английский язык; метаданные также отмечают интерфейс для вызова инструментов. Это дообученная модель, а не исходная базовая версия. Лицензия — Apache-2.0. README содержит общее описание семейства, но часть его утверждений о размере и типе модели относится к версии 0,5B и не описывает этот репозиторий; здесь использованы параметры 14B и контекста из метаданных. Конкретные оценки качества для этой версии в предоставленных материалах не приведены.

unsloth/Qwen2.5-Coder-32B-Instruct-bnb-4bit — 4-битная версия модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen и подготовленной с использованием Unsloth. Это каузальная языковая модель, ориентированная прежде всего на работу с программным кодом. Модель предназначена для генерации, анализа и исправления кода, решения задач программирования, кодового рассуждения и создания приложений с использованием code agents. Она также сохраняет возможности базовой серии Qwen2.5 в математике и общих текстовых задачах. В README заявлена поддержка английского языка. Суффикс bnb-4bit указывает на 4-битное квантованное представление, рассчитанное на более экономичное использование памяти. Заявлено 32 миллиарда параметров, однако приведённые в README подробности об архитектуре, числе слоёв и контекстном окне относятся к другой конфигурации Qwen2.5-Coder объёмом 0,5 миллиарда параметров и не подтверждают характеристики именно этой версии. Поэтому точные параметры архитектуры и размер контекста данной сборки следует уточнять отдельно. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-3B — базовая кодовая языковая модель, разработанная командой Qwen. Это предварительно обученная причинная трансформерная модель семейства Qwen2 с 3,09 млрд параметров, предназначенная для генерации и анализа кода, рассуждений о коде и исправления ошибок. Она также сохраняет общие языковые и математические способности базовой Qwen2.5. Модель обучалась на корпусе из исходного кода, текстово-кодовых данных и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm, смещение в проекциях QKV и связанные эмбеддинги слов; в ней 36 слоёв, 16 голов Q и 2 головы KV. Контекст составляет 32 768 токенов. Модель предназначена для задач продолжения кода и заполнения пропусков в коде; авторы не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для работы с Transformers требуется версия 4.37.0 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

Qwen2.5-Coder-7B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-Coder, разработанной командой Qwen и опубликованной в репозитории Unsloth. Модель предназначена прежде всего для работы с исходным кодом: генерации, рассуждений по коду, исправления ошибок, задач code completion и создания основы для code agents. Она также сохраняет способности к математике и общим текстовым задачам. Модель является авторегрессионной causal language model на 7,61 млрд параметров, из которых 6,53 млрд не относятся к эмбеддингам. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-проекциях; предусмотрены 28 слоёв и Grouped Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется настройка YaRN. Указанный язык — английский. Сильными сторонами модели являются специализация на программировании, улучшенные возможности генерации, анализа и исправления кода, большой контекст и сниженные требования к памяти благодаря 4-битному представлению. Это базовая, а не instruction-tuned модель, поэтому её не рекомендуют использовать непосредственно для диалогов без дополнительного обучения или постобработки. Для запуска рекомендуется актуальная версия transformers и, при необходимости, vLLM; статическое масштабирование YaRN может снижать качество или производительность на коротких текстах. Лицензия — Apache 2.0.

Qwen2.5-Coder-7B-Instruct-GGUF — инструкционно дообученная языковая модель для генерации текста и программного кода из семейства Qwen2.5-Coder, разработанного командой Qwen компании Alibaba Cloud. Она предназначена для генерации, анализа и исправления кода, рассуждений о программировании, создания code agents, а также для задач, где требуется сочетание навыков работы с кодом, математикой и общими текстовыми запросами. Модель поддерживает английский язык; README не подтверждает поддержку других языков. Модель представляет собой causal language model в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в Attention QKV. Она содержит 7,61 млрд параметров, из них 6,53 млрд без учёта embedding, 28 слоёв и механизм GQA с 28 головами для Q и 4 для KV. Полная длина контекста этой GGUF-версии — 32 768 токенов. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, поддержка локального запуска через llama.cpp и несколько вариантов квантования. Ограничение GGUF-версии — контекст 32 768 токенов; заявленное расширение до 131 072 токенов с YARN относится к другим условиям и, согласно README, требует vLLM и не-GGUF моделей. Лицензия — Apache 2.0.

baronyi/Qwen2_5-code-talker-v1-0707-014615 — объединённая методом SLERP модель на основе Qwen/Qwen2.5-Coder-14B-Instruct и Qwen/Qwen2.5-14B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и примерно 14 млрд параметров; карточка указывает форматы Safetensors и GGUF F16, а метаданные — контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и программного кода, а также структурированных ответов и взаимодействия с инструментами через соответствующий интерфейс. Она объединяет возможности двух инструкционных моделей Qwen2.5, одна из которых ориентирована на код. Поддерживаемые языки в предоставленных данных не перечислены. Условия лицензии в карточке и метаданных не приведены.

Jackrong/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — плотная текстовая модель на архитектуре Qwen3.5 с 9 млрд параметров, разработанная Jackrong путём дообучения Qwen/Qwen3.5-9B. Она предназначена для диалогов и сложных задач, где нужны последовательные рассуждения: разбиение задачи на части, планирование, анализ ограничений и обобщение. Обучение с учителем использует дистиллированные трассы рассуждений Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B; модель рассчитана на генерацию текста и поддерживает интерфейс вызова инструментов. В корпусах обучения представлены математика, программирование и системы, безопасность, физика, право, медицина, финансы и другие области. Метаданные карточки указывают языки английский, китайский и корейский. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Модель может галлюцинировать факты и ссылки, а её склонность к подробному структурированному анализу иногда приводит к избыточным ответам на простые запросы. Дистилляция может повлиять на обобщение и вызвать частичное забывание знаний базовой модели; для конкретного сценария требуется оценка качества и настройка формата запросов.

continuum-ai/qwen3-coder-30b-a3b-compacted-19b-256k — компактная версия Qwen3-Coder-30B-A3B-Instruct, разработанная на основе модели Qwen. При создании удалено 35% MoE-экспертов с использованием калибровочного ранжирования по частоте активаций. Модель предназначена прежде всего для генерации, дополнения и инфиллинга кода, агентного программирования и вызова функций, включая локальный и периферийный запуск на потребительских GPU, компьютерах Apple и мобильных устройствах. Это разреженная Mixture-of-Experts-модель с заявленным классом 30B и компактированной эффективной конфигурацией 19B. Сохраняет контекст до 256K токенов и работает с текстом; в README заявлена поддержка английского, китайского и широкого набора языков программирования, включая Python, JavaScript, TypeScript, C, C++, Java, Kotlin, Go, Rust, Swift, PHP, Ruby, SQL, HTML и CSS. Доступны квантованные форматы GGUF Q4_K_M, Q5_K_M и Q8_0 для llama.cpp, Ollama и LM Studio, а также варианты для локального запуска через Transformers и MLX. На HumanEval модель получила 88,4 балла против 92,1 у исходной версии, а на HumanEval+ — 85,4 против 88,4. К сильным сторонам относятся сочетание кодировочных возможностей 30B-класса с меньшими требованиями к памяти, длинный контекст и варианты для локального выполнения. Ограничения включают неполное восстановление качества исходной модели, отсутствие отдельного измерения обобщения на языки, отличные от Python, отсутствие тестирования генерации длиннее 32K токенов и пока не измеренные результаты на MBPP+ и LiveCodeBench. Калибровка выполнялась на 300 примерах Python. Модель распространяется по лицензии Apache-2.0. В README также заявлена криптографически проверяемая цепочка происхождения через ForgeAlloy, однако доверие к аттестации обозначено как self-attested.

Qwen3-Coder-30B-A3B-Instruct — инструктивная языковая модель для программирования от команды Qwen. Это причинная модель семейства Qwen3 MoE: всего 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; в архитектуре 48 слоёв и 128 экспертов, из которых задействуются 8. Модель принимает текст и выдаёт текст, поддерживает контекст до 262 144 токенов и интерфейс вызова инструментов. Модель предназначена для генерации и анализа кода, агентного программирования и использования в браузерных сценариях. Большое окно контекста помогает разбирать целые репозитории; модель также поддерживает специальный формат вызова функций. Выпускается только в режиме без рассуждений (non-thinking) и не генерирует блоки ``` в ответах. Доступна по лицензии Apache-2.0.

Qwen3-Coder-Next-FP8 — открытая языковая модель компании Qwen, предназначенная прежде всего для coding agents, локальной разработки и интеграции с CLI- и IDE-инструментами. Она ориентирована на генерацию и анализ кода, длительные многошаговые задачи, использование инструментов и восстановление после ошибок выполнения. Модель поддерживает интеграцию с различными средами разработки, включая Claude Code, Qwen Code, Qoder, Kilo, Trae и Cline. Это причинная языковая модель с гибридной архитектурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего она содержит 80 млрд параметров, из которых активируется около 3 млрд; число параметров без учёта эмбеддингов составляет 79 млрд. Архитектура включает 48 слоёв, 512 экспертов MoE, 10 активируемых экспертов и одного общего эксперта. Нативная длина контекста — 262 144 токена. Доступна версия с fine-grained FP8-квантизацией с размером блока 128, что предназначено для более эффективного локального и серверного запуска. К сильным сторонам относятся высокая эффективность по числу активных параметров, поддержка длинного контекста и возможности агентного взаимодействия. Ограничение состоит в том, что модель работает только в режиме без рассуждений и не формирует блоки <think></think>; README также предупреждает о возможных проблемах с памятью при использовании максимального контекста. Модель распространяется по лицензии Apache 2.0.

techAInewb/Qwen3-Embedding-0.6B-INT8 — восьмибитная квантованная версия многоязычной модели эмбеддингов Qwen3-Embedding-0.6B от Qwen. Она преобразует текст в векторы размерности 1024 для семантического поиска, сравнения документов, кластеризации, классификации и систем RAG. Модель построена на архитектуре Qwen3; в метаданных указано 507,6 млн параметров и контекст до 32 768 токенов. README сообщает о поддержке 29 языков и совместимости с экосистемой Hugging Face Transformers. Квантование INT8 выполнено методом статического квантования Optimum Quanto с сохранением токенизатора. По данным README, размер модели снижен примерно на 37%, а качество эмбеддингов близко к исходной версии. Модель предназначена для текстовых входов и выдаёт векторные представления. Распространяется по лицензии Apache 2.0.

jeonsworld/sentence-embedding-base — модель на базе RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 514 токенов. Модель подходит для построения векторного поиска и группировки текстов по смыслу. Метаданные указывают на поддержку извлечения признаков и сравнения предложений. В репозитории указаны веса PyTorch. Лицензия в доступных данных не приведена.

yunyu/sentence-transformers-e5-small-v2 — модель эмбеддингов на архитектуре BERT, опубликованная в формате PyTorch. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и предназначена для семантического поиска, кластеризации и сравнения текстов. Модель содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. Лицензия в доступных данных не указана.