II.11Кибербезопасность и приватность

GLM-5.2-EXL3-TR3-3.40bpw-KVarN-K4V2 — это локально ориентированный serving-чекпойнт на базе GLM-5.2 от zai-org, подготовленный jpsequeira. Модель предназначена для генерации текста, прежде всего для задач программирования, рассуждений и агентских сценариев, с акцентом на эффективное развертывание на четырёх GPU RTX PRO 6000 Blackwell по 96 ГБ. Чекпойнт рассчитан на использование с форком local-inference-lab/vllm и специализированными компонентами b12x, KVarN и sparkinfer. Модель использует архитектуру GLM-5.2 размером 756B параметров с MoE и маршрутизацией экспертов. Применена смешанная EXL3-квантизация примерно 3,40 бит на вес, а для KV-кэша используется формат KVarN K4V2 с затратами 290 байт на токен на слой. Поддерживаются sparse MLA attention, paged top-k indexer и MTP3 speculative decoding. Для данного класса оборудования подтверждён контекст до 819K токенов; модель относится к текстовым моделям, однако сведения о поддерживаемых языках в README не указаны. Сильными сторонами являются высокая экономичность KV-кэша, большой практически проверенный контекст и оптимизация под локальное инференс-развёртывание. При этом качество квантизации зависит от домена: заявленные низкие значения KLD на калибровочном наборе не обобщаются на отложенные данные, где модель уступает некоторым общественным чекпойнтам GLM-5.2. Кроме того, для работы требуются совместимые GPU, специализированный runtime и соответствующие backend-компоненты. Чекпойнт распространяется по лицензии MIT.

Карточка модели cern6959/intfloat_multilingual-e5-base на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Jupiter-G-8B — дообученная мультимодальная модель Locai Labs на базе Google Gemma 4 E4B Instruct. Это плотная модель условной генерации, опубликованная в формате safetensors и распространяемая по лицензии Apache-2.0. Она предназначена для следования инструкциям, генерации кода и агентных сценариев, включая работу с терминалом; дообучение также направлено на сохранение исходных знаний и навыков рассуждения. В карточке сообщается об улучшениях относительно базовой Gemma 4 E4B Instruct на IFEval, IFBench и LiveCodeBench, а также о снижении показателя вредных ответов AgentHarm. Для сохранения исходных возможностей применялась техника Forget-Me-Not с синтетическими ответами базовой модели; обучение включало данные UltraChat, терминальные траектории Nemotron и задачи программирования. Метаданные указывают поддержку задачи any-to-any, а описание базовой модели — обработку текста, изображений и аудио. Число параметров и длина контекста для самой Jupiter-G-8B в предоставленных данных не указаны.

LLaDA2.0-mini-preview — диффузионная языковая модель с архитектурой Mixture-of-Experts от InclusionAI. Это предварительная instruction-tuned версия семейства LLaDA, предназначенная для диалогов и практических задач генерации текста. README указывает 16 млрд параметров всего и около 1,4 млрд активных при инференсе; в метаданных Hugging Face указан размер 1,2 млрд параметров. Модель содержит 20 слоёв, использует RoPE и поддерживает контекст до 8192 токенов согласно метаданным; README указывает 4096 токенов. Модель подходит для генерации кода, математических рассуждений, ответов на вопросы и сценариев с вызовом инструментов. В README заявлено обучение на серии Ling2.0 примерно на 20 трлн токенов и приведены результаты бенчмарков, но их детализация в доступном фрагменте неполная. Репозиторий содержит веса safetensors и рассчитан на работу через Transformers. Лицензия — Apache-2.0. README обозначает модель как preview, поэтому её качество и поведение следует оценивать для конкретных задач; при повышении температуры авторы предупреждают о возможном смешении языков и снижении качества.

Llama-3_1-Nemotron-51B-Instruct — разработанная NVIDIA языковая модель для диалогов и генерации текста. Это производная Llama-3.1-70B-Instruct: NVIDIA применила поиск архитектуры NAS и дистилляцию, чтобы повысить эффективность инференса и сократить требования к памяти при небольшом снижении качества. По метаданным, модель содержит 87 млрд параметров и поддерживает контекст до 131 072 токенов; в описании дистилляции указана длина последовательности 8 192 токена. Модель предназначена для англоязычных одно- и многоходовых диалогов общего назначения, а также задач, связанных с кодом; README отмечает поддержку других языков, но не перечисляет их. Она принимает и выдаёт текст, поддерживает чат и интерфейс вызова инструментов. Архитектура — авторегрессионный трансформер-декодер с неодинаковыми блоками: переменным числом KV-голов, пропуском или упрощением внимания и переменным коэффициентом расширения FFN. NVIDIA указывает, что модель оптимизирована для высокопроизводительного запуска на одной H100 80 ГБ; для BF16 README приводит требования в две H100 80 ГБ или две A100 80 ГБ. Модель подходит для коммерческого применения согласно README. Метаданные указывают лицензию other, поэтому перед использованием следует ознакомиться с условиями NVIDIA. Модель может выдавать неточные, нерелевантные или токсичные ответы, отражать смещения обучающих данных и быть уязвимой к атакам на выравнивание; разработчик рекомендует применять защитные механизмы.

JonasGru/lt-e5 — Sentence Transformer, дообученный на базе intfloat/multilingual-e5-base. Модель преобразует предложения и абзацы в нормализованные плотные векторы размерности 768; для сравнения используется косинусное сходство. Архитектура состоит из XLM-RoBERTa, среднего пулинга токенов и нормализации. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В README указано обучение на наборе из 199 992 пар предложений, а метаданные подтверждают многоязычную базовую модель. Лицензия в предоставленных данных не указана.

LamaDiab/MiniLM-V6Data-SemanticEngine — модель Sentence Transformer на базе BERT, обученная для сопоставления предложений и абзацев в семантическом пространстве. Она преобразует текст в плотные векторы размерности 384; сходство можно оценивать косинусной мерой. Модель предназначена для семантического поиска, сравнения текстов и выявления перефразировок, а также подходит для кластеризации и классификации текстов на основе эмбеддингов. В обучении использован набор из 291 522 пар anchor–positive с функцией потерь MultipleNegativesSymmetricRankingLoss. В README указана максимальная длина последовательности 256 токенов, а метаданные Hugging Face указывают нативное контекстное окно 512 токенов; для работы следует учитывать ограничение, заданное конфигурацией модели. Оценка cosine accuracy на приведённом тесте составляет 0,9456. Модель принимает текст и возвращает нормализованные векторы; язык обучения и лицензия в доступных данных не указаны.

Это модель Sentence Transformers на базе BERT, дообученная автором Stergios-Konstantinidis от sucharush/e5_stem_finetuned. Она преобразует предложения и абзацы в плотные векторы размерности 768, нормализованные для сравнения косинусным сходством. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и получения признаков для классификации. Максимальная длина входа — 512 токенов. В карточке указано обучение на 113 450 примерах; модель использует mean pooling и нормализацию выходных векторов. Лицензия в предоставленных данных не указана.

schaitanya/modernbert-embed-base-transcript-documents-v1 — англоязычная модель Sentence Transformers, дообученная на парах запросов и релевантных документов, включая транскрипты. Она кодирует предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска, сравнения текстов и извлечения релевантных документов; сходство оценивается косинусной мерой. В основе лежит ModernBERT с архитектурой среднего пулинга токенов и контекстом до 8192 токенов по метаданным; карточка модели указывает максимальную длину последовательности 1024 токена. Модель содержит 149 млн параметров и распространяется в формате safetensors. Модель подходит для поиска по транскриптам и документам, сопоставления коротких запросов с длинными текстами, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В обучающей выборке — 6116 пар «запрос — положительный документ»; приведённые в карточке метрики поиска показывают cosine_accuracy@1 0,5191, @3 0,7441 и @5 0,8. Поддерживается английский язык. Лицензия — Apache-2.0.

tomaarsen/mpnet-base-allnli — модель Sentence Transformers, дообученная разработчиком tomaarsen на базе microsoft/mpnet-base. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости текстов, семантического поиска и других задач, где нужно сопоставлять тексты по значению. Модель использует архитектуру MPNet с усреднением токенных представлений и нормализацией выходного вектора; для оценки сходства в карточке рекомендуется скалярное произведение. Контекст модели составляет до 384 токенов по README и до 514 токенов по метаданным.

Карточка модели vectoriseai/multilingual-e5-large на Hugging Face совпадает с карточкой goldenrooster/multilingual-e5-large, поэтому описание составлено по ней. Multilingual-E5-large — мультиязычная модель текстовых эмбеддингов, основанная на XLM-RoBERTa-large и обученная контрастивным методом на смеси мультиязычных данных. В карточке перечислены авторы Liang Wang, Nan Yang, Xiaolong Huang, Binxing Jiao, Linjun Yang, Daxin Jiang, Rangan Majumder и Furu Wei. Модель имеет 24 слоя, размер эмбеддинга 1024 и около 658,7 млн параметров. Она предназначена для поиска по текстам, семантического сходства, поиска парафраз и межъязыкового сопоставления текстов, а также для получения признаков для классификации и кластеризации. Для поиска нужно добавлять к запросу префикс «query:», а к документу — «passage:»; для симметричных задач и получения признаков используется префикс «query:». Поддерживается 100 языков семейства XLM-RoBERTa, включая русский, однако качество может снижаться на языках с малым объёмом обучающих данных. Модель принимает текст и выдаёт векторные представления. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Лицензия — MIT.

Это конвертированная в MLX 6-битную форму версия NVIDIA Nemotron 3 Nano 30B A3B от mlx-community, подготовленная из nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 с помощью mlx-lm 0.29.1. Базовая модель NVIDIA — гибридная языковая модель с 30B параметров и активируемыми 3B параметров; она предназначена для диалогов, рассуждений, программирования и агентных приложений. Модель принимает текст и генерирует текст в разговорном формате. В карточке указана поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Репозиторий предназначен для запуска через mlx-lm на устройствах Apple Silicon. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с лицензией базовой модели и файлами репозитория.

Octen-Embedding-4B-INT8 — текстовая embedding-модель, разработанная Octen на основе Qwen/Qwen3-Embedding-4B и дообученная методом LoRA. Она преобразует тексты в векторы размерностью 2560 и предназначена для семантического поиска, retrieval-сценариев, оценки схожести предложений, извлечения признаков и поиска по документам. Модель поддерживает английский, китайский и другие языки, а также различные языки программирования, что позволяет использовать её для многоязычного, кросс-языкового и кодового поиска. Модель содержит около 4 млрд параметров и представлена в INT8-квантизированном формате с использованием bitsandbytes. По данным README, объём памяти составляет примерно 4 ГБ против около 8 ГБ для версии BF16. Заявлена поддержка длинного контекста: в большинстве разделов указано до 32 768 токенов, а в разделе характеристик — до 40 960 токенов. Поэтому точное ограничение контекста следует проверять в конфигурации модели. Embedding-пространство высокой размерности рассчитано на работу с длинными документами и специализированными данными в юридической, финансовой, медицинской и программной областях. К сильным сторонам относятся уменьшенное потребление памяти, широкая языковая поддержка, ориентация на прикладные retrieval-задачи и возможность обработки длинного контекста. К ограничениям относятся отсутствие гарантии ускорения инференса после INT8-квантизации: на некоторых аппаратных платформах модель может работать немного медленнее BF16-версии. В приведённых результатах Octen-Embedding-4B получила средний показатель 0,7834 на RTEB, включая 0,7747 на Public и 0,7942 на Private. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-14B-Instruct-8bit — это 14-миллиардная инструкционная языковая модель для генерации текста и работы с программным кодом. Она основана на Qwen2.5-Coder-14B-Instruct, разработанной командой Qwen, и преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.19.3. Модель предназначена для запуска через библиотеку mlx-lm. Модель ориентирована на задачи программирования, включая генерацию и обработку кода, а также диалоговые сценарии. В карточке указана поддержка английского языка; другие языки, размер контекстного окна и дополнительные модальности не заявлены. Ключевая особенность версии — 8-битное представление, адаптированное для экосистемы MLX. Модель распространяется по лицензии Apache 2.0. README не содержит сведений о результатах тестирования, конкретных ограничениях качества или рекомендуемых аппаратных требованиях, поэтому эти характеристики нельзя оценить по имеющимся данным.

QuantTrio Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-AWQ — это AWQ-квантизированная версия модели Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2, разработанной на базе Qwen3.5-27B. Исходную дообученную модель создал Jackrong, а репозиторий квантизации поддерживается QuantTrio. Квантизация выполнена методом data-free, без калибровочного датасета, что позволяет уменьшить размер модели примерно до 21 GiB и снизить требования к памяти при инференсе. Модель ориентирована на задачи рассуждения, математику, текстовые задачи, логическую дедукцию, инструкции и программирование. По заявленным результатам, она сохраняет показатель 96,91% pass@1 на HumanEval, сокращает длину цепочки рассуждений примерно на 24% и обеспечивает на 31,6% больше корректных решений на токен по сравнению с базовой моделью. Для запуска рекомендуется vLLM с поддержкой AWQ, tool calls и reasoning parser; в README приведена конфигурация с контекстом до 32768 токенов и тензорным параллелизмом на двух GPU. Сильными сторонами являются экономичное рассуждение, высокая эффективность на задачах программирования и возможность использования в оптимизированном режиме инференса. Ограничения включают снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%, а также возможное ухудшение качества на задачах, требующих длинного контекста или сложного многошагового рассуждения. Языки и точный набор поддерживаемых модальностей в README не указаны; pipeline обозначен как image-text-to-text, но подробностей о мультимодальных возможностях нет. Модель распространяется по лицензии Apache-2.0.

jkrukowski/Qwen3-Embedding-0.6B-F32 — версия модели эмбеддингов Qwen3-Embedding-0.6B, подготовленная в формате Float32 из исходных весов BF16. Модель основана на Qwen/Qwen3-0.6B-Base: это плотная архитектура Qwen3ForCausalLM примерно с 508 млн параметров, дообученная для получения текстовых эмбеддингов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель предназначена для семантического поиска и извлечения текстов и кода, сравнения предложений, классификации и кластеризации текстов, а также поиска соответствий между языками. Она поддерживает более 100 языков, контекст до 32 768 токенов и размерность эмбеддинга до 1024 с выбором выходной размерности от 32 до 1024. Входные инструкции можно настраивать под задачу; авторы отмечают, что в большинстве сценариев поиска это может повысить качество. Модель выдаёт векторные представления текста; README описывает её как модель эмбеддингов, а не как специализированный реранкер. Перед использованием с Transformers требуется версия 4.51.0 или новее, поскольку в более ранних версиях возможна ошибка распознавания архитектуры Qwen3. Качество конкретной версии F32 отдельно в карточке не оценено.

QuantFactory/CodeLlama-7b-Instruct-hf-GGUF — это квантизированная версия CodeLlama-7b-Instruct-hf, разработанная на основе модели codellama/CodeLlama-7b-Instruct-hf. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели в формате GGUF. Модель относится к семейству Llama и ориентирована на генерацию текста и работу с программным кодом, включая сценарии инструкционного взаимодействия с разработчиком. В README указано, что исходная модель имеет размер 7 миллиардов параметров. Поддерживаются варианты квантизации Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_0, Q4_K_M, Q4_K_S, Q5_0, Q5_K_M, Q5_K_S, Q6_K и Q8_0, позволяющие выбирать компромисс между качеством, скоростью и требованиями к памяти. Ключевое преимущество модели — возможность более экономичного локального запуска благодаря квантизации и совместимости с llama.cpp. README не содержит сведений о поддерживаемых языках, размере контекста, точных характеристиках отдельных вариантов квантизации, лицензии или ограничениях применения. Также в заголовке README упоминается Mistral-7B-v0.1-GGUF, однако метаданные и описание указывают на CodeLlama-7b-Instruct-hf; поэтому идентификацию модели следует основывать прежде всего на метаданных репозитория.

Карточка модели lazyDataScientist/EmbeddingGemma на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Карточка модели jigmam/embeddinggemma-int8 на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

arshvir/granite-embedding-311m-multilingual-r2-GGUF — конвертированная в формат GGUF модель эмбеддингов IBM Granite Embedding 311M Multilingual R2 на архитектуре ModernBERT. Репозиторий содержит веса в формате F16; модель насчитывает 311 млн параметров и поддерживает контекст до 32 768 токенов. Она преобразует текст в векторы размерностью 768, которые можно усекать до 512, 384, 256 или 128 измерений благодаря Matryoshka Representation Learning. Модель предназначена для многоязычного и межъязыкового семантического поиска, сравнения предложений и поиска по длинным документам, а также для поиска по коду. В README заявлена поддержка более 200 языков, с усиленным обучением на 52 языках и примерами языков программирования. Для загрузки GGUF предлагается использовать llama-cpp-python. По README, модель набрала 65,2 на 18 задачах многоязычного retrieval-бенчмарка MTEB; эти результаты приведены автором карточки. Репозиторий указывает лицензию Apache 2.0. Это преобразование исходной модели в GGUF F16, а не новая обученная версия; для использования нужна совместимая среда выполнения GGUF.

Hy3-GGUF — набор GGUF-квантизаций модели Tencent Hy3, подготовленный пользователем vcruz305. Это MoE-модель для генерации текста, диалогов, программного кода и задач рассуждения. Базовая модель имеет 295 млрд параметров, из которых 21 млрд активируются на токен, использует 192 эксперта с выбором top-8, включает 80 основных слоёв и дополнительный MTP/NextN-слой объёмом 3,8 млрд параметров. Заявлена длина контекста до 256K токенов. Модель работает с текстом; сведения о поддерживаемых языках в README не указаны. Репозиторий содержит варианты от IQ1_M и IQ2_M до Q8_0 размером примерно от 92 до 318 ГБ, рассчитанные на системы с большим объёмом памяти и, для некоторых вариантов, на конфигурации из двух узлов. Квантизации используют importance matrix, рассчитанную на корпусе с примерами программирования, рассуждений и диалогов. Для части вариантов проверена генерация кода и диалогов на реальном оборудовании; также поддерживается speculative decoding через MTP, которое в приведённых измерениях заметно повышало скорость генерации. Для запуска требуется llama.cpp с поддержкой архитектуры Hy3: до включения соответствующих изменений в основную ветку необходима специальная ветка с PR #25364. Для корректного применения шаблона чата требуется параметр --jinja. Ограничениями являются значительные требования к памяти, необходимость совместимого оборудования и специальной сборки llama.cpp; часть квантов не проходила индивидуальное нагрузочное тестирование. Модель распространяется по лицензии Apache-2.0.

gemasphi/laprador_f — модель Sentence-Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для вычисления семантического сходства, семантического поиска и кластеризации текстов. Число параметров — 136,1 млн, максимальная длина контекста — 512 токенов; модель распространяется в формате PyTorch. Модель можно применять для поиска текстов по смыслу, группировки похожих предложений и сравнения фрагментов текста. README описывает использование через Sentence-Transformers или Transformers с соответствующей операцией pooling. Язык модели и условия лицензии в предоставленных сведениях не раскрыты.

llama-nv-embed-reasoning-3b — текстовая модель эмбеддингов NVIDIA на основе двунаправленной архитектуры Llama, дообученная на базе meta-llama/Llama-3.2-3B. Модель содержит 3,2 млрд параметров и формирует векторы размерностью до 3072 для предложений и документов. В метаданных указано контекстное окно 131072 токена; при обучении использовалась длина до 512 токенов для запросов и документов, а при оценке — до 8192 токенов. Модель предназначена для векторного поиска и поиска по смыслу, особенно по материалам с многошаговыми рассуждениями, объяснениями и техническими подробностями. Её можно применять в текстовых RAG-системах, для сопоставления коротких запросов с длинными документами, поиска по базам знаний и обращениям в поддержку, а также для кластеризации и удаления дубликатов. Эмбеддинги подходят для использования с векторными базами данных и retrieval-конвейерами. Модель разработана NVIDIA и оптимизирована для вычислений на GPU NVIDIA; в README указана совместимость с Linux и GPU A100 или H100. Для запуска описана интеграция с Transformers и vLLM. Лицензия в метаданных — CC BY 4.0, однако README ограничивает использование исследовательскими и некоммерческими целями.

MistralCode-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из mistralai/Mistral-7B-Instruct-v0.2 и dhyay/mistral_codev2_3k. Веса объединены методом SLERP; модель содержит 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате, включая задачи программирования, на которые ориентирована одна из исходных моделей. Может использоваться для помощи с кодом и обычных текстовых запросов. Сведения о поддерживаемых естественных языках и лицензии в доступных данных отсутствуют.

Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Это многоязычная модель Sentence Transformer от mrm8488, дообученная на базе intfloat/multilingual-e5-large на расширенном испаноязычном наборе stsb_multi_es_aug. Модель на архитектуре XLM-RoBERTa преобразует предложения и абзацы в плотные текстовые эмбеддинги; описание указывает размерность 1024, усреднение токенов с последующей нормализацией и сравнение по косинусному сходству. Максимальная длина последовательности составляет 512 токенов по README; метаданные каталога указывают нативный контекст 514 токенов. Модель предназначена для оценки семантического сходства, семантического поиска, поиска перефразирований, кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты оценки сходства на STS для нескольких размерностей в диапазоне 16–768. Модель содержит 658,7 млн параметров и распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

Multilingual-E5-small — модель текстовых эмбеддингов, основанная на архитектуре BERT и обученная авторами работы Liang Wang и соавторов методом контрастивного предобучения на слабой разметке. В репозитории maiyad/multilingual-e5-small представлены веса модели размером 124,3 млн параметров; модель имеет 12 слоёв и выдаёт векторы размерности 384. Она основана на microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных датасетов. Модель предназначена для поиска и сравнения текстов: семантического сходства, поиска пассажей по запросу, поиска перефразировок и межъязыкового поиска. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к тексту для поиска — «passage: »; для ряда симметричных задач и извлечения признаков рекомендуется префикс «query: ». Модель поддерживает 100 языков, но для языков с малым объёмом обучающих данных качество может быть ниже. Контекст ограничен 512 токенами, длинные тексты усекаются. Лицензия — MIT.

paraphrase-distilroberta-base-v2 — модель sentence-transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости, семантического поиска и кластеризации. Архитектура основана на RoBERTa; модель содержит 95,2 млн параметров и рассчитана на контекст до 514 токенов. Для получения эмбеддингов используется библиотека Sentence-Transformers; веса доступны в форматах PyTorch, TensorFlow, Flax, ONNX и OpenVINO. Модель подходит для поиска похожих текстов, группировки предложений по смыслу и построения семантического поиска по коллекциям документов. В карточке не заявлена специализация на конкретном языке или предметной области. Лицензия Apache-2.0 разрешает свободное использование с соблюдением её условий.

Shining Valiant 3 — дообученная Valiant Labs модель для научных задач, проектирования систем ИИ и рассуждений общего назначения, созданная на базе Qwen3-4B. Это плотная причинная языковая модель с 3,7 млрд параметров, рассчитанная на генерацию текста, диалоги, следование инструкциям, написание кода и пошаговое решение сложных задач. Для диалогов разработчик рекомендует включать режим рассуждений; модель использует формат запросов Qwen 3 и поддерживает контекст длиной до 40 960 токенов. Модель обучали на данных научных рассуждений, сгенерированных DeepSeek R1 0528, а также на сложных примерах рассуждений об ИИ. Она предназначена для локального запуска на настольных компьютерах и мобильных устройствах, а также для быстрой серверной инференции. Доступна в формате Safetensors и распространяется по лицензии Apache 2.0. Карточка описывает специализацию на рассуждениях и решение задач, но не приводит результатов сравнительных оценок качества.

Replete-Coder-Instruct-8b-Merged-GGUF — это набор GGUF-квантизаций инструкционной модели для генерации текста и работы с исходным кодом. Базовую модель разработала команда Replete-AI, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска в сценариях программирования, генерации и дополнения кода, а также выполнения текстовых инструкций. Доступны варианты от полноразмерного F32 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов варьируется примерно от 3 до 32 ГБ, что позволяет выбирать между качеством и требованиями к оперативной памяти. Указано, что наиболее качественные варианты Q6 и Q5, а Q4 предлагают хороший баланс размера и качества. Модель имеет 8 миллиардов параметров; сведения о поддерживаемых языках, размере контекста, архитектуре и мультимодальности в README не приведены. К сильным сторонам относятся широкий выбор квантизаций, возможность локального использования через совместимое программное обеспечение и сохранение высокого качества у вариантов Q6 и Q5. Более компактные варианты экономят память, но могут заметно уступать по качеству, особенно Q2 и Q3. Модель распространяется по лицензии Apache-2.0.