II.1Анализ требований и архитектура ПО

Granite-20B-Code-Instruct-r1.1 — языковая модель IBM Research с 20 млрд параметров на архитектуре GPTBigCode, дообученная для следования инструкциям по программированию. Она предназначена для создания кодовых ассистентов и ответов на запросы о коде; также обучалась на данных по математике, решению задач, SQL и вызову функций. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В репозитории веса представлены в формате Safetensors. Модель обучалась на наборах данных с кодом, инструкциями, математикой и оценками качества ответов. Она может помогать писать и объяснять код, решать математические задачи, создавать SQL-запросы и формировать вызовы API. Её результаты могут быть слабее для языков программирования, не охваченных обучающими данными; перед применением в критичных сценариях IBM рекомендует проводить проверки безопасности и настройку под конкретную задачу. Лицензия — Apache 2.0.

HoangVuSnape/halong_embedding_pr_v3_ep30 — модель Sentence Transformers, дообученная на основе hiieu/halong_embedding. Она использует XLM-RoBERTa с усреднением токенных представлений и нормализацией, чтобы преобразовывать предложения и абзацы в плотные векторы размерностью 768; сходство обычно оценивают косинусной мерой. Максимальная длина входа составляет 514 токенов по метаданным Hugging Face; в README указано ограничение 512 токенов. Модель подходит для поиска семантически близких текстов, оценки сходства предложений, поиска информации, обнаружения перефразировок, кластеризации и классификации текста на основе эмбеддингов. В карточке приведены оценки поиска на нескольких размерностях векторов, однако они относятся к указанным в README наборам и не гарантируют такие же результаты на других данных. Для работы требуется библиотека Sentence Transformers; веса опубликованы в формате safetensors. Языковая выборка README содержит вьетнамские тексты, но широкая языковая поддержка XLM-RoBERTa сама по себе не подтверждает конкретные языки обучения этой версии. Лицензия в предоставленных данных не указана.

Huihui-Qwen3.5-27B-abliterated — мультимодальная плотная модель на 27 млрд параметров, созданная huihui-ai на основе Qwen/Qwen3.5-27B методом abliteration, направленным на снижение числа отказов. Это экспериментальная версия с упрощённой реализацией метода, предназначенная для диалогов и анализа изображений; метаданные также указывают поддержку интерфейса вызова инструментов. Модель принимает текст и изображения и генерирует текст. Модель подходит для диалоговых сценариев, ответов на запросы по изображениям и задач с использованием инструментов. В README указано, что защитные фильтры существенно ослаблены, поэтому возможны чувствительные, спорные или неподходящие ответы и результаты требуют проверки. Репозиторий распространяется по лицензии Apache-2.0.

danfeg/IF-E5-L-M_Finetuned-EN-2481 — модель эмбеддингов предложений на базе XLM-RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска и кластеризации. Модель содержит около 658,7 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Модель обучена с использованием CosineSimilarityLoss и ориентирована на английские данные, что отражено в названии репозитория. Её можно применять для поиска похожих текстов и группировки предложений по смыслу. Веса опубликованы в формате safetensors; для использования в README предлагается библиотека Sentence-Transformers. Лицензия в предоставленных данных не указана.

InstructYi-6BDolly15K — авторегрессионная языковая модель на 5,8 млрд параметров, дообученная HenryJJ на базе Yi-6B с помощью LoRA. В обучении использовались наборы Databricks Dolly 15K и CodeAlpaca 20K; модель обучалась следовать инструкциям и лучше справляться с задачами программирования. Для запросов применяется шаблон [INST] с инструкцией и, при необходимости, контекстом. Модель предназначена для генерации ответов на инструкции и помощи с кодом на английском языке. Репозиторий содержит веса Safetensors; контекст модели по метаданным составляет 4096 токенов. README сообщает о тренировке на окне 2048 токенов. Модель распространяется по лицензии Apache-2.0.

ThanhRise/intfloat-multilingual-e5-base-SimCSE-fine-turned-QA — модель эмбеддингов предложений на архитектуре XLM-RoBERTa, представленная в формате PyTorch и созданная на основе multilingual-e5-base. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель обучена с функцией MultipleNegativesRankingLoss и косинусным сходством. В README она описана как дообученная для задач вопросно-ответного поиска; метаданные указывают задачу sentence-similarity. Она рассчитана на многоязычные тексты, а контекст ограничен 514 токенами. Лицензия в предоставленных данных не приведена.

KaLM-embedding-multilingual-mini-instruct-v1 — мультиязычная модель эмбеддингов из серии KaLM-Embedding, разработанной командой HIT-TMG. Она дообучена на базе Qwen/Qwen2-0.5B с использованием масштабного слабонаблюдаемого предварительного обучения и обучения с учителем. Модель предназначена для преобразования текстов в векторы, оценки сходства предложений и поиска по смыслу; версия instruct рассчитана на сценарии, где запросы и инструкции помогают уточнить задачу. Модель содержит около 494 млн параметров, использует плотную архитектуру Qwen2 и формат весов safetensors. Заявленная длина контекста — 131 072 токена. В README приведены оценки серии KaLM-Embedding на наборах C-MTEB и MTEB, а также сравнение с другими моделями эмбеддингов. Лицензия — MIT. Для запуска авторы рекомендуют transformers версии 4.37.0 или новее.

Leanstral-1.5-119B-A6B-NVFP4 — это общественный квантованный вариант модели Mistral AI Leanstral-1.5-119B-A6B, подготовленный пользователем sahilchachra. Модель предназначена для генерации текста и обработки изображений в мультимодальных сценариях, включая диалоговые приложения, работу с инструментами и задачи, поддерживаемые базовой моделью. Артефакт не связан официально с Mistral AI и создан на основе общественной конвертации модели в BF16. Архитектура объединяет текстовый бэкенд DeepSeek-V3 с MLA-вниманием и MoE-структурой, включающей 128 маршрутизируемых экспертов, 4 активных эксперта на токен и одного общего эксперта, а также визуальный энкодер Pixtral. Для языковых линейных слоёв и MoE-экспертов используется NVFP4 W4A4 с 4-битными весами; визуальный модуль, мультимодальный проектор, маршрутизатор, lm_head и эмбеддинги сохранены в полной точности. Поддерживаются текст и изображения, а токенизатором служит Tekken с форматом диалогов Mistral. Основное преимущество модели — существенное снижение точности хранения весов и ориентация на NVIDIA GPU класса Blackwell с аппаратной поддержкой FP4. При этом полноценная генерация на одной B200 ещё не подтверждена: зафиксированы проблемы совместимости с vLLM 0.23, Transformers деквантует NVFP4 в BF16, а визуальный путь не прошёл runtime-проверку. Масштабирование RoPE является приблизительным, поэтому работа с контекстом длиннее 8 тысяч токенов не гарантируется. Модель доступна на условиях лицензии other; применяются лицензия и условия исходной модели Mistral AI.

LLM2Vec-Meta-Llama-3-8B-Instruct-mntp-supervised — модель для преобразования текстов в векторные представления, разработанная сообществом McGill-NLP на базе Meta-Llama-3-8B-Instruct. В карточке указано, что модель распространяется с использованием PEFT и ориентирована на английский язык. Модель предназначена для семантического сравнения предложений, поиска и извлечения информации, reranking, классификации текстов, кластеризации и построения систем text embeddings. Она может применяться в задачах semantic search, информационного поиска, дедупликации вопросов, оценки семантической близости и других сценариях, где требуется сопоставлять тексты по смыслу. Идентификатор указывает на основу Meta Llama 3 с размером 8B параметров и instruct-настройкой, однако точные сведения о размерности эмбеддингов, максимальном контексте, процедуре обучения и поддерживаемых модальностях в README не приведены. В карточке представлены результаты на наборах MTEB для классификации, retrieval, clustering, reranking и STS, что подтверждает широкий спектр целевых задач. Ограничением является заявленная ориентация на английский язык и отсутствие подробных данных о производительности вне перечисленных тестов, ресурсоёмкости и рекомендуемых параметрах инференса. Лицензия модели — MIT.

Это модель M2-BERT, разработанная Джоном Саад-Фалконом, Дэном Фу и Симран Аророй. Чекпойнт содержит около 136,7 млн параметров по метаданным и дообучен для поиска по длинным последовательностям; в README размер семейства обозначен как 80M. Модель принимает текстовые последовательности длиной до 32 768 токенов и предназначена для задач извлечения информации и поиска по длинным документам. Её можно загрузить через Transformers как BertForSequenceClassification; метаданные также указывают поддержку сходства предложений и классификации текста. Модель распространяется в формате PyTorch под лицензией Apache-2.0. Карточка не описывает ограничения качества или языков помимо английского, указанного в метаданных.

MarinSkyRL Open-MOPD SmolLM3 3B step 32 — ранний чекпойнт языковой модели, подготовленный авторами MarinSkyRL на основе дообученного смешанного SFT-чекпойнта BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT. Модель с архитектурой SmolLM3ForCausalLM содержит 3,1 млрд параметров, принимает текст и поддерживает контекст до 65 536 токенов. Экспортирована в формате Hugging Face Safetensors без квантизации и предназначена для генерации текста в диалоговом формате. При обучении ответы модели оценивались RL-моделями-учителями для математики, программирования и следования инструкциям с маршрутизацией по предметной области. Это промежуточный чекпойнт после 32 шагов оптимизации, а не финальная версия после 200 шагов. В независимой оценке указаны результаты AIME 2024 и 2025 с метрикой mean@64 и IFEval с mean@1; результаты других упомянутых бенчмарков не заявлены как сопоставимые с опубликованными в статье. Модель подходит для экспериментов с генерацией ответов, математическими задачами, кодом и выполнением инструкций. В карточке не указаны языки обучения или гарантии качества для конкретных языков. Лицензия — Apache-2.0.

sharedalfalfa/market-matcher-trained-v1 — дообученный разработчиком модели энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2 для сопоставления текстов. Он преобразует предложения и абзацы в плотные векторы размерности 384; сходство между векторами оценивается косинусной мерой. Архитектура состоит из BERT-энкодера, среднего пулинга токенов и нормализации. По метаданным модели в ней 25,9 млн параметров, а длина контекста составляет до 512 токенов; в конфигурации из README указана максимальная длина последовательности 256 токенов. Модель предназначена для семантического сравнения, поиска похожих текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. README указывает на обучение на наборе из 179 пар предложений с оценками сходства; примеры посвящены прогнозным рынкам, но данных недостаточно, чтобы считать специализацию на этой области подтверждённой. Карточка не сообщает лицензию. Англоязычная базовая модель предполагает основной упор на английский; качество для других языков не подтверждено.

miCSE — модель для получения семантических векторных представлений предложений и коротких абзацев, разработанная Tassilo Klein и Moin Nabi. Она использует архитектуру BERT и обучена контрастивным методом с регуляризацией распределения self-attention: согласование представлений разных dropout-аугментированных вариантов текста помогает эффективнее обучаться на небольших наборах данных. Векторы извлекаются из токена [CLS] и подходят для сравнения сходства предложений, поиска и кластеризации. Модель обучалась на английских предложениях из Википедии; в статье также исследуется обучение на малых выборках корпуса SimCSE. Контекст составляет 512 токенов, размер модели — 136,7 млн параметров. Для адаптации few-shot подхода к собственным данным README указывает на необходимость обучения модели на этих данных. Лицензия — Apache-2.0.

Это квантованная версия MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo, подготовленная FreedomAISVR в формате GGUF MXFP4 для запуска через llama.cpp. Исходная модель — дообученная методом SFT мультимодальная модель на 9 млрд параметров на основе Qwen3.5-9B; репозиторий распространяет её веса в более компактном формате. Модель сочетает слои Mamba-2 и полного внимания, включает визуальный энкодер и поддерживает контекст до 262 144 токенов. Для обработки изображений и видео требуется отдельный файл mmproj. Модель предназначена для агентного программирования и инженерии ПО, работы с инструментами и автоматизацией, анализа интерфейсов и изображений, связанных с кодом, а также задач кибербезопасности. README приводит результаты Xiaomi на кодовых бенчмарках, но они не были независимо проверены для этой сборки. Это исследовательская SFT-модель, представленная как отправная точка для дальнейшего обучения агентному поведению, а не как готовое производственное решение. Лицензия — MIT. К известным ограничениям относятся отсутствие весов MTP, включённый по умолчанию режим рассуждения и высокая потребность в памяти KV-кэша при длинном контексте. MXFP4 снижает точность представления весов; на GPU, отличных от NVIDIA Blackwell, производительность может быть ниже. Данных о поддерживаемых естественных языках в использованных источниках нет.

MiniCPM5-2B-heretic-abliterated-i1-GGUF — это квантизированная в формате GGUF версия модели insraq/MiniCPM5-2B-heretic-abliterated, подготовленная mradermacher. Модель относится к семейству MiniCPM и предназначена для генерации текста, включая локальное и периферийное развёртывание, сценарии с длинным контекстом и вызовом инструментов. В метаданных указана поддержка английского и китайского языков. Модель имеет около 2 млрд параметров; точные сведения об архитектуре и максимальной длине контекста в README не приведены. Доступно множество вариантов квантизации i1 с размером примерно от 0,8 до 1,9 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством. Для части вариантов указано использование imatrix-квантизации; наиболее сбалансированными автор README называет i1-Q4_K_S и i1-Q4_K_M, причём последний рекомендован как быстрый вариант. К сильным сторонам относятся небольшой размер, возможность работы на устройствах с ограниченными ресурсами, поддержка английского и китайского языков, а также ориентированность на длинный контекст и tool-calling. Ограничения зависят от выбранного уровня квантизации: варианты с очень малым размером могут заметно терять качество, а точные показатели производительности и качества в README не приведены. Лицензия модели — Apache-2.0.

MiniCPM5-2B-i1-GGUF — набор GGUF-квантизаций базовой модели openbmb/MiniCPM5-2B, разработанной командой OpenBMB. Квантизацию выполнил mradermacher; представлены варианты с imatrix-квантизацией, рассчитанные на запуск локально, в том числе на устройствах с ограниченными ресурсами. Модель предназначена для генерации и обработки текста, сценариев с длинным контекстом и, согласно тегам, вызова инструментов. Заявлены английский и китайский языки. Размер базовой модели — 2 млрд параметров; точная архитектура и максимальная длина контекста в README не указаны. Доступны варианты от i1-IQ1_S до i1-Q6_K размером примерно от 0,8 до 2,2 ГБ, что позволяет выбирать компромисс между размером, скоростью и качеством. Сильная сторона набора — широкий выбор компактных квантизаций для локального и периферийного использования; для части вариантов указаны рекомендации по соотношению размера, скорости и качества. Ограничения зависят от уровня квантизации: самые компактные варианты могут заметно терять в качестве, а отдельные варианты прямо обозначены как низкокачественные. Лицензия модели — Apache-2.0.

Карточка модели NostraEmpire/mirror-deepseek-r1-distill-qwen-14b на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

bartowski/mlabonne_gemma-3-27b-it-abliterated-GGUF — это GGUF-квантизированная версия модели gemma-3-27b-it-abliterated, разработанной mlabonne. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix; доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q3/Q4/Q5/Q6-квантизаций. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Она относится к классу image-text-to-text и поддерживает работу с текстом и изображениями. Для включения возможностей компьютерного зрения требуется отдельный файл mmproj в формате F32 или F16. Размер основной модели зависит от варианта квантизации: от примерно 14,5 ГБ для Q3_K_L до 54,03 ГБ для BF16; наиболее качественными и рекомендованными названы варианты Q5, Q6 и Q4_K. Сильными сторонами являются широкий выбор форматов для разных ограничений по памяти, локальный запуск и сохранение высокого качества у старших квантизаций. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для BF16 и Q8_0, а также необходимость отдельного mmproj-файла для обработки изображений. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Лицензия модели обозначена как gemma.

ronanki/ml_mpnet_768_MNR_15 — модель Sentence Transformers на архитектуре XLM-RoBERTa, разработчик — ronanki. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на ранжирование пар предложений.

mmlw-roberta-base-klej-dyk-v0.1 — англоязычная модель Sentence Transformers, дообученная на базе sdadas/mmlw-roberta-base. Она использует энкодер RoBERTa с пуллингом CLS-токена и преобразует предложения и абзацы в плотные эмбеддинги размерностью 768; сходство между ними можно оценивать косинусной метрикой. Модель содержит 151,6 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В README приведены результаты оценки информационного поиска при разных размерностях векторов, включая сокращённые размерности от 64 до 512. Поддерживается английский язык. Распространяется по лицензии Apache-2.0.

Карточка модели OmarIDK/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

Карточка модели novelcore/model16 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели novelcore/model9 на Hugging Face совпадает с карточкой sentence-transformers/multi-qa-mpnet-base-cos-v1, поэтому описание составлено по ней. multi-qa-mpnet-base-cos-v1 — модель Sentence Transformers на базе MPNet, разработанная в рамках Community Week Hugging Face. Она преобразует вопросы, предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска и сопоставления текста по смыслу. Модель обучена на 215 млн пар «вопрос–ответ» из разных источников с контрастивной целью и усреднением токеновых представлений; для сравнения векторов подходят косинусная близость и скалярное произведение. Модель принимает текст и предназначена для кодирования поисковых запросов и текстовых фрагментов, чтобы находить релевантные документы или ответы. Контекст ограничен 514 токенами по метаданным; карточка рекомендует не превышать 250 word pieces, поскольку более длинные входы могут работать хуже, а тексты свыше 512 word pieces обрезаются. Карточка указывает английский язык. Доступны веса PyTorch и форматы ONNX и OpenVINO; лицензия в предоставленных данных не указана.

jfarray/Model_all-distilroberta-v1_50_Epochs — модель Sentence-Transformers на основе RoBERTa, разработанная jfarray. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 95,2 млн параметров и принимает контекст длиной до 514 токенов. Модель обучена с функцией CosineSimilarityLoss и предназначена для получения эмбеддингов предложений. Её можно использовать в семантическом поиске и других задачах сравнения текстов через библиотеку Sentence-Transformers. Репозиторий содержит веса PyTorch. Сведения о лицензии и языках в предоставленных данных отсутствуют.

jfarray/Model_paraphrase-multilingual-MiniLM-L12-v2_50_Epochs — модель эмбеддингов предложений на архитектуре BERT, представленная в формате PyTorch. Она кодирует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения текстов. В метаданных указаны 124,3 млн параметров и контекст до 512 токенов; модель обучалась с функцией CosineSimilarityLoss. Модель подходит для поиска похожих фрагментов текста, группировки документов и вычисления семантического сходства. В названии указано multilingual MiniLM, однако README и метаданные не перечисляют поддерживаемые языки. Лицензия в предоставленных данных не указана.

jfarray/Model_paraphrase-multilingual-mpnet-base-v2_30_Epochs — модель sentence-transformers, дообученная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения смысловой близости и кластеризации текстов. Модель основана на архитектуре XLM-RoBERTa, содержит 305,2 млн параметров и принимает текстовые последовательности с контекстом до 514 токенов. Карточка указывает на мультиязычную основу paraphrase-multilingual-mpnet-base-v2; метаданные не перечисляют конкретные поддерживаемые языки. В README описано обучение с CosineSimilarityLoss. Для использования доступны PyTorch и интеграция с Sentence-Transformers или Transformers с подходящей операцией pooling. Векторы подходят для поиска и сравнения смысловой близости; карточка не приводит результатов оценки качества. Лицензия в предоставленных данных не указана.

tasksource/ModernBERT-base-embed — англоязычная модель Sentence Transformers, дообученная на базе answerdotai/ModernBERT-base для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, оценки сходства и обнаружения перефразировок. Модель также подходит для кластеризации и классификации текста с использованием эмбеддингов. Архитектура состоит из ModernBertModel и слоя пулинга по CLS-токену. Максимальная длина входной последовательности — 8192 токена; сходство векторов можно оценивать косинусной мерой. Модель обучалась на наборах данных для поиска ответов, естественного следования, сходства предложений и выявления перефразировок. В первую очередь рассчитана на английский язык. Сведения о лицензии в предоставленных данных отсутствуют.

Motif-3-Mixed-Quant-GGUF — независимая конверсия модели Motif-3 от Motif Technologies, разработанная Baekpica. Это GGUF-артефакт для генерации текста на английском и корейском языках, предназначенный для локального запуска полноразмерной модели на оборудовании с примерно 128 ГБ унифицированной памяти, включая NVIDIA DGX Spark. Релиз не является официальным продуктом Motif Technologies. Модель построена на архитектуре Mixture-of-Experts с 314,8 млрд параметров: 53 слоя, из которых 14 используют полный и 39 — SWA-вариант внимания GDLA. В каждой разреженной слоистой части сохранены все 384 маршрутизируемых эксперта с маршрутизацией top-8, а также общий эксперт; параметры не удалялись, эксперты и слои не отбрасывались. Применена смешанная квантизация, итоговый размер составляет 94,16 ГБ, или 87,70 GiB, в 11 файлах. Заявленный исходный предел контекста — 262 144 токена. Сильной стороной модели является сохранение полной топологии и возможность запуска на ограниченном по памяти оборудовании. Для ds4-dfm заявлена проверка работы с контекстом до 262 080 токенов на одном DGX Spark, включая многооконный режим, а также поддержка OpenAI- и Anthropic-совместимых серверных интерфейсов, инструментов, непрерывной пакетной обработки и retrieval-сценариев. При этом приведённые тесты подтверждают главным образом загрузку и серверное выполнение; качество ответов в README не оценивалось, а результаты зависят от конкретного оборудования, runtime и режима контекста. Лицензия модели — MIT.

lizchu414/mpnet-base-all-nli-triplet — модель Sentence Transformers на базе MPNet, дообученная на наборе all-nli. Она кодирует предложения и абзацы на английском языке в плотные векторы размерности 768, нормализованные для сравнения косинусным сходством. Модель содержит 136,7 млн параметров и рассчитана на последовательности до 514 токенов по метаданным; в README указана максимальная длина 384 токена. Её применяют для семантического поиска, оценки сходства и поиска перефразировок, кластеризации текстов и извлечения признаков для классификации. README приводит результаты оценки на all-nli с точностью cosine около 0,925. Лицензия в предоставленных данных не указана.

Это англоязычная модель Sentence Transformers, разработанная tomaarsen и дообученная на microsoft/mpnet-base с использованием пар вопросов и ответов из набора GooAQ. Она кодирует предложения и абзацы в плотные векторы размерностью 768; сходство между ними можно оценивать косинусной близостью. Модель подходит для семантического поиска, сопоставления вопросов с ответами и поиска похожих формулировок, а полученные векторы также можно использовать для кластеризации и классификации текста. В основе лежит MPNet с усреднением токенных представлений; максимальная длина входа — 512 токенов, а в метаданных указано контекстное окно 514 токенов. Обучение проводилось на 90 тысячах примеров GooAQ с функцией потерь CachedMultipleNegativesBidirectionalRankingLoss. Модель распространяется по лицензии Apache-2.0. Она обучена на англоязычных данных, поэтому её назначение и заявленная поддержка относятся к английскому; карточка не приводит гарантий качества для других языков или областей.