I.2Синтез, понимание и проверка знаний

Adel Elgabry дообучил SentenceTransformer на базе sentence-transformers/all-MiniLM-L6-v2 для семантического поиска по английским предложениям и абзацам. Модель кодирует текст в плотные векторы размерности 384, которые можно сравнивать косинусной близостью и использовать для поиска релевантных фрагментов. Архитектура включает энкодер BERT, усредняющий пулинг токенов и нормализацию векторов. В метаданных указано 25,9 млн параметров; предельный контекст составляет 512 токенов, а карточка модели указывает максимальную длину последовательности 256 токенов. Обучение описано для 2 225 пар предложений с функцией потерь MultipleNegativesRankingLoss. Модель принимает текст и выдаёт эмбеддинги; лицензия в предоставленных данных не указана.

Ettin encoder 32M — англоязычная модель-энкодер семейства Ettin, разработанная исследовательской группой JHU CLSP. Это версия размером около 31,9 млн параметров на архитектуре ModernBERT, обученная предсказывать скрытые токены (MLM). Она предназначена для извлечения признаков и эмбеддингов, классификации и поиска по тексту; в README отмечены результаты на GLUE и англоязычном поиске MTEB, а также преимущества на задачах классификации и длинного контекста. Модель принимает текст, поддерживает контекст до 7 999 токенов и распространяется в формате PyTorch через Transformers. Лицензия — MIT.

FUE-v1 — модель преобразования предложений в эмбеддинги, разработанная на основе all-mpnet-base-v2 и опубликованная пользователем qinxianliu. Её можно использовать для получения векторных представлений предложений, например, для поиска похожих текстов и сравнения их семантической близости. Модель построена на архитектуре MPNet, содержит 136,7 млн параметров и принимает текст. Максимальная длина контекста составляет 514 токенов; формат весов — safetensors. Карточка показывает применение через библиотеку Sentence Transformers. В метаданных указана поддержка английского языка. Лицензия в предоставленных данных не указана.

google/gemma-4-31B-it-assistant — вариант Gemma 4 от Google DeepMind с инструкционной настройкой и поддержкой Multi-Token Prediction (MTP). В спекулятивном декодировании небольшой черновой модуль предлагает несколько следующих токенов, которые основная модель проверяет параллельно; карточка заявляет ускорение генерации до 3 раз при сохранении того же качества, что и при обычной генерации. Архитектура плотная, веса опубликованы в формате safetensors, библиотека — Transformers. Модель предназначена для ускорения генерации текста с низкой задержкой, в том числе при локальном развёртывании. Семейство Gemma 4 поддерживает работу с текстом и изображениями, а также генерацию кода, рассуждения и вызов инструментов; у модели заявлено контекстное окно до 256 тысяч токенов и многоязычная поддержка. Карточка семейства также описывает видео и аудио, но аудио поддерживается только вариантами E2B, E4B и 12B, а не 31B. Лицензия — Apache 2.0. Ускорение зависит от использования в совместимом конвейере спекулятивного декодирования; MTP-черновик не является самостоятельной заменой целевой модели. В карточке не приведены отдельные сведения об оценках и ограничениях именно этого чекпойнта.

GIST Embedding v0 — модель векторных представлений текста, созданная Av Solatorio. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 с методом GISTEmbed: обучающие негативные примеры отбираются из MEDI и дополненных триплетами обучающих данных классификации MTEB. Модель имеет архитектуру BERT, содержит 25,9 млн параметров и принимает текст с контекстом до 512 токенов. Модель предназначена для получения эмбеддингов предложений и оценки их сходства, в том числе для семантического поиска и retrieval. Для кодирования запросов не требуются специальные инструкции. Модель оценивали на бенчмарке MTEB; дообучение улучшило некоторые задачи, но ухудшило результаты на других, включая поиск по TRECCOVID. Поддерживается английский язык. Лицензия — MIT.

Карточка модели OpenPipe/Hermes-2-Theta-Llama-3-8B-32k на Hugging Face совпадает с карточкой NousResearch/Hermes-2-Theta-Llama-3-8B, поэтому описание составлено по ней. Hermes-2 Θ (Theta) — экспериментальная объединённая и дополнительно обученная модель Nous Research, созданная совместно с Charles Goddard из Arcee. В основе лежит Hermes-2-Pro-Llama-3-8B: веса объединены с Meta Llama 3 Instruct, после чего модель дополнительно обучали с помощью RLHF. Это плотная причинно-языковая модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена. Модель предназначена для диалогов и выполнения инструкций на английском языке. Она поддерживает формат ChatML, многоходовое общение, вызов функций и генерацию структурированных ответов в JSON. Репозиторий содержит веса safetensors; для запуска описан пример с Transformers. В карточке приведены результаты оценок на нескольких наборах тестов, но они не гарантируют качество в конкретных сценариях. Модель распространяется по лицензии Apache-2.0. Практические ограничения: карточка называет её экспериментальной; вызовы инструментов нужно самостоятельно разбирать и исполнять в коде приложения. Указанная в README рекомендация LM Studio относится к квантованным версиям и не обещает поддержку вызова функций в этом интерфейсе.

QuantFactory/Hermes-2-Theta-Llama-3-8B-GGUF — квантованная GGUF-версия Hermes-2-Theta-Llama-3-8B, созданная с использованием llama.cpp. Исходную модель разработала Nous Research совместно с Charles Goddard из Arcee, при этом Hermes-2 Theta представляет собой экспериментальное объединение Hermes 2 Pro и Meta Llama 3 Instruct с последующим обучением с подкреплением на основе обратной связи человека (RLHF). Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. Модель ориентирована на многошаговые чаты, следование системным инструкциям, генерацию структурированного JSON и вызов функций. Она использует формат промптов ChatML с ролями system, user и assistant, поддерживает chat template и совместима с подходом OpenAI к форматированию диалогов. В карточке также указано обучение на датасете teknium/OpenHermes-2.5 и наличие методов DPO, синтетических данных и дистилляции в контексте разработки. Размер исходной модели — 8B параметров; точный тип и уровень квантования, размер контекста и требования к ресурсам не указаны. Сильными сторонами являются сочетание возможностей Hermes 2 Pro и Llama 3 Instruct, поддержка управляемых диалогов, function calling и JSON-вывода. Модель описана как экспериментальная, а в карточке отсутствуют количественные результаты оценки, сведения о конкретных вариантах квантования и подробные ограничения качества, поэтому пригодность для конкретных задач следует проверять отдельно. Распространение указано по лицензии Apache 2.0.

Indonesia Islamic Sentence-BERT — модель Sentence Transformers, дообученная автором ramadita на firqaaa/indo-sentence-bert-large. Она преобразует предложения и абзацы на индонезийском языке в плотные векторы размерностью 2048 для поиска по смыслу, сравнения сходства предложений, поиска перефразировок, классификации и кластеризации текста. Архитектура основана на BERT с пуллингом CLS- и средних токеновых представлений; максимальная длина входа — 512 токенов. Для сравнения векторов рекомендуется косинусное сходство. Модель рассчитана на индонезийский язык и опубликована в форматах safetensors и ONNX. В README приведены результаты TripletEvaluator на dev и test наборах, однако метрики зависят от этих данных. Лицензия — Apache-2.0.

indo-sentence-bert-base — модель на базе BERT, опубликованная пользователем firqaaa и подготовленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантического сходства, поиска по смыслу и кластеризации. Модель содержит 151,6 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение выполнялось с MultipleNegativesRankingLoss и косинусной мерой сходства; это делает модель подходящей для построения эмбеддингов индонезийского текста. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Карточка не приводит результатов оценки, поэтому качество для конкретных данных следует проверять отдельно.

jina-embeddings-v5-omni-nano-clustering-GGUF — мультимодальная модель эмбеддингов, разработанная Jina AI и представленная в формате GGUF для llama.cpp. Это квантованный вариант jinaai/jina-embeddings-v5-omni-nano-clustering с текстовой, визуальной и аудиокомпонентами; модель преобразует текст, изображения, видео и аудио в 768-мерные векторы единого пространства. Благодаря этому документы можно индексировать с использованием текста, а выполнять поиск или сопоставление — по любой поддерживаемой модальности без переиндексации. Модель предназначена прежде всего для кластеризации мультимодальных данных и поддерживает контекст до 8192 токенов. Она использует pooling по последнему токену, содержит около 0,95 млрд параметров и поддерживает Matryoshka-размерности эмбеддингов 32, 64, 128, 256, 512 и 768. Заявлены входы в распространённых форматах изображений, видео и аудио, а также PDF. Доступны F16 и 13 уровней int-квантизации текстовой части; мультимодальные проекторы поставляются в F16. Сильные стороны модели — единое векторное пространство для нескольких модальностей, компактный размер, возможность локального запуска через llama.cpp и уменьшения размерности вектора под требования приложения. Ограничения связаны с тем, что для мультимодального режима требуются специальные патчи Jina AI для llama.cpp, которые, согласно README, ещё не включены в upstream-версию; также численные бенчмарки и дополнительные ограничения вынесены в отдельную документацию. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями, включая некоммерческий характер лицензии.

KEmbed-naija-v2 — модель Sentence Transformers, дообученная автором matt-wisdom на базе BAAI/bge-m3 для поиска по текстам. Она кодирует предложения и абзацы в плотные векторы размерности 1024, нормализует их и сравнивает по косинусному сходству. Максимальная длина входа — 256 токенов; архитектура включает XLM-RoBERTa и слой объединения CLS. Модель ориентирована на извлечение релевантных текстов, а её качество оценивалось на датасете nigerian-val. Модель принимает текст и выдаёт векторы для семантического поиска и сравнения предложений. Она дообучена на наборах с парами и тройками текстов; README приводит результаты оценки поиска, но не уточняет поддерживаемые языки или предметную область. Доступна в формате safetensors; лицензия в предоставленных данных не указана.

Карточка модели Sing0402/legal-embed-gte-distilled на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

unsloth/LFM2-1.2B — компактная версия семейства LFM2, разработанного Liquid AI и опубликованная Unsloth. Это плотная гибридная языковая модель примерно с 1,2 млрд параметров: 10 блоков коротких свёрток LIV и 6 блоков внимания GQA. Она рассчитана на запуск на периферийных устройствах и подходит для приложений на смартфонах, ноутбуках и других устройствах с CPU, GPU или NPU. Контекст — до 32 768 токенов. Модель предназначена для диалогов, вызова инструментов, извлечения данных, RAG, творческого письма и других узких сценариев; авторы рекомендуют дообучать её под конкретную задачу. В README заявлены ускоренные обучение и генерация, а также результаты сравнительных тестов для моделей сопоставимого размера. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Для знаний, требующих глубокой предметной подготовки, и задач программирования авторы её не рекомендуют. Репозиторий содержит веса safetensors и основан на LiquidAI/LFM2-1.2B; лицензия указана как other, поэтому её условия следует проверить на странице модели.

ressl/MiniMax-M3-uncensored-NVFP4 — это квантизированная версия модели ressl/MiniMax-M3-uncensored, основанной на MiniMax-M3. Релиз подготовлен ressl с использованием NVIDIA ModelOpt NVFP4 и предназначен для локального запуска генерации текста и мультимодальных запросов на системах с GPU NVIDIA Blackwell. Модель имеет MoE-архитектуру с 428 млрд параметров в общей сложности и примерно 23 млрд активных параметров на токен. В модели сохранены возможности рассуждения, разбора рассуждений, вызова инструментов и обработки изображений. В карточке указаны английский и немецкий языки. Экспортированный вариант занимает около 260,4 ГБ вместо 854,2 ГБ у BF16-версии: NVFP4 применён к весам маршрутизируемых экспертов, тогда как внимание, маршрутизатор, общие эксперты, эмбеддинги, языковая голова, vision tower и проекторы сохранены в BF16. Проверенный контекст составляет 32 768 токенов; на отдельном тесте модель корректно обработала запрос длиной 20 212 токенов. Модель ориентирована на локальное инференс-обслуживание, исследование безопасности, red teaming, анализ вредоносного ПО и эксплойтов, обнаружение угроз, автоматизацию через tool calls и мультимодальные сценарии. На четырёх NVIDIA RTX PRO 6000 Blackwell 96 ГБ с SGLang зафиксирована скорость около 88,5 токена в секунду для прогретого одиночного запроса, однако это не результат полного академического бенчмарка. Для запуска требуется конфигурация из четырёх GPU Blackwell и SGLang с указанными в README настройками; совместимость с vLLM не подтверждена. Модель намеренно uncensored и может отвечать на запросы, которые стандартная версия отклоняет, поэтому её применение требует соблюдения законодательства и мер безопасности. Лицензия указана как other.

Ministral 3 3B Instruct 2512 — компактная мультимодальная модель компании Mistral AI, постобученная для выполнения инструкций. Она сочетает языковую модель на 3,4 млрд параметров и визуальный энкодер на 0,4 млрд параметров; веса представлены в формате FP8. Модель предназначена для локального и периферийного развёртывания, а для работы в FP8 достаточно 8 ГБ видеопамяти согласно карточке модели. Поддерживается контекст до 256 тысяч токенов. Модель принимает текст и изображения, отвечает на вопросы о визуальном содержимом, создаёт короткие тексты, классифицирует текст, извлекает данные и помогает с переводом. Также заявлены поддержка системных инструкций, вызова функций и вывода JSON. Указаны английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки. Модель можно применять для лёгких приложений реального времени на устройствах с ограниченными ресурсами. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование и модификацию. Результаты могут зависеть от выбранных настроек и качества входных изображений; автор рекомендует для визуальных задач изображения с соотношением сторон, близким к 1:1. Заявления о характеристиках и бенчмарках приведены разработчиком; таблицы README преимущественно показывают результаты более крупной модели Ministral 3 14B, поэтому их нельзя напрямую считать оценкой версии 3B.

ModernBERT-TR Embed — компактная модель текстовых эмбеддингов на основе ModernBERT, разработанная ytu-ce-cosmos для представления турецких текстов в виде векторов. Модель содержит около 148,7 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. Она предназначена для семантического поиска и оценки сходства предложений; также применима для классификации, кластеризации и двуязычного поиска на турецком и английском языках. Модель дистиллирована из Qwen/Qwen3-Embedding-8B, затем дообучена на задачах поиска и понимания турецкого языка, а несколько чекпойнтов объединены усреднением весов. По приведённому в карточке сравнению, она показывает конкурентные результаты на турецких бенчмарках при меньшем числе параметров, чем некоторые сравниваемые модели. Доступны форматы ONNX и safetensors; модель рассчитана на использование с Sentence Transformers и Text Embeddings Inference. Лицензия — Apache-2.0.

msmarco-bert-base-dot-v5 — модель Sentence Transformers, разработанная командой sentence-transformers для семантического поиска. Она преобразует предложения и абзацы на английском языке в плотные векторы размерностью 768, которые можно сопоставлять для поиска релевантных текстов. Модель обучена на 500 тысячах пар «запрос — ответ» из набора MS MARCO и использует архитектуру BERT с 136,7 млн параметров. Модель подходит для построения семантического поиска по документам и ранжирования кандидатов по близости к запросу. Максимальная длина входной последовательности — 512 токенов; эмбеддинги не нормализуются. Доступны реализации в форматах PyTorch, TensorFlow, ONNX и OpenVINO. Лицензия в предоставленных данных не указана.

Модель lucaswychan/Nemotron-Research-Reasoning-Qwen-1.5B-Reasoning-Embedding — дообученная методом контрастивного обучения модель эмбеддингов на базе NVIDIA Nemotron-Research-Reasoning-Qwen-1.5B. Она преобразует текст в векторные представления для сравнения семантической близости предложений и поиска по смыслу. В карточке описана как часть исследования влияния моделей с обучением через RLVR на качество семантических представлений; результаты MTEB и BRIGHT не показали устойчивого преимущества таких начальных весов перед базовой моделью при одинаковом обучении. Модель построена на плотной архитектуре Qwen2, содержит 1,5 млрд параметров, поддерживает контекст до 131 072 токенов и предназначена для многоязычного текста. Используется библиотека Sentence Transformers, веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

BoldingBuilds/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-ShimQuant-GGUF — квантизированная GGUF-версия NVIDIA Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA. Сборка использует технологию ShimQuant и предназначена для генерации текста и программного кода, включая сценарии локального запуска на потребительских видеокартах с ограниченным объёмом памяти. Модель основана на архитектуре Nemotron H с разреженной MoE-компонентой: заявлены 30 млрд параметров при 3 млрд активных параметров (30B-A3B). Файл имеет размер около 11,77 GiB, эффективную разрядность 3,07 бит на вес и рассчитан на контекст до 262 144 токенов. В конфигурации преобладают SSM-слои, поэтому увеличение контекста требует сравнительно немного дополнительной VRAM. README не указывает поддерживаемые языки. Ключевое преимущество сборки — возможность запуска на видеокарте с 16 ГБ памяти: на RTX 5080 заявлены полный offload и загрузка контекста 262 144 токена. На тесте HumanEval модель показала pass@1 91,5%. При этом квантизация вносит заметное отклонение от эталонной версии Q8_0, а результаты зависят от выбранной конфигурации. Файл несовместим со стандартными llama.cpp, LM Studio и Ollama и требует пропатченной сборки с поддержкой ShimQuant. Лицензия указана как openmdw-1.1 (other).

Occamy-1.0 APEX-I-MiniPlus-V2.1 Abliterated GGUF — это квантизированная версия Occamy-1.0, разработанная IsValorum на базе Accio-Lab/occamy-1.0. Модель предназначена для генерации текста, рассуждений, программирования и работы с большими контекстами, включая сценарии локального запуска через llama.cpp на системной RAM и GPU. Это аблитерированная версия без стандартных отказов и защитных ограничений, поэтому она ориентирована на пользователей, которым требуется более свободное выполнение запросов, в том числе в задачах кибербезопасности и пентестинга. Модель использует разреженную архитектуру Mixture-of-Experts с 40 слоями и 256 микроэкспертами. В сборке применена кастомная тензорная квантизация: основные эксперты используют IQ3_XXS, периферийные — Q3_K, shared-эксперты — Q5_K, attention-компоненты — Q4_K и Q6_K, выходная голова — Q6_K, а маршрутизаторы — F32. Заявлен контекст до 256K токенов. Поддерживаются английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Сильными сторонами заявлены компактный размер около 13,74 GiB, сохранение качества рассуждений при квантизации, отсутствие отказов в протестированном наборе запросов и эффективная работа при частичной или полной выгрузке в системную память. Ограничения включают потенциальные риски неконтролируемой генерации из-за удаления защитных механизмов, зависимость производительности от GPU, процессора и пропускной способности памяти, а также отсутствие в представленном README подробных независимых бенчмарков. Лицензия — Apache-2.0.

ENOSYS/Octen-Embedding-0.6B-750-v1-GGUF — экспериментальная GGUF-квантизация модели Octen/Octen-Embedding-0.6B, опубликованная ENOSYS. Репозиторий описывает квантизацию с целевым числом бит на вес, созданную с использованием нестандартной ветки LLaMA.cpp и калибровочных данных на английском и русском языках; для тензоров использован формат F16, совместимый с архитектурой Nvidia Pascal, включая P100. Модель предназначена для получения текстовых эмбеддингов и задач семантического сходства, включая поиск и извлечение информации. Метаданные указывают на поддержку английского, русского и других языков, а также на библиотеку Sentence Transformers. README приводит сравнение вариантов квантизации по показателям perplexity и KLD, но не описывает конкретную конфигурацию этого репозитория среди приведённых результатов. Лицензия — Apache-2.0. Это производная квантованная версия базовой модели Octen/Octen-Embedding-0.6B. Нестандартная ветка инструментов и экспериментальный характер квантизации могут влиять на совместимость и воспроизводимость; метаданные указывают GGUF, а также возможности чата и эмбеддингов.

Карточка модели JaehyeokLee/preliminary_efficient_batching_random_gist_checkpoint_epoch_1_step_70 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

lmstudio-community/Qwen2.5-VL-3B-Instruct-GGUF — мультимодальная инструкционная модель Qwen2.5-VL-3B-Instruct, разработанная Qwen и представленная в формате GGUF. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для задач анализа изображений и текста, включая распознавание объектов, интерпретацию текстов, диаграмм, графиков, значков и макетов в изображениях. Модель поддерживает контекст до 128 тысяч токенов, заявлена как мультиязычная и может формировать структурированные ответы, включая стабильный JSON. Она также предназначена для сценариев визуального агента с рассуждением и динамическим управлением инструментами, в том числе для взаимодействия с компьютером и телефоном. К сильным сторонам относятся анализ визуальной информации и работа со структурированными данными; конкретные ограничения, результаты тестов и перечень поддерживаемых языков в README не указаны. Лицензия — qwen-research.

Qwen2-VL-7B-Instruct-GGUF — мультимодальная instruction-модель семейства Qwen, разработанная командой Qwen и представленная в GGUF-квантизации bartowski на основе llama.cpp. Модель основана на Qwen2-VL-7B-Instruct и предназначена для работы с текстом и изображениями. Модель подходит для анализа изображений различного разрешения и соотношения сторон, визуального вопросно-ответного взаимодействия, мультимодального рассуждения и сценариев агентской автоматизации, где требуется интерпретация визуальной информации. Заявлена поддержка нескольких языков и контекста до 32K токенов. Размер базовой модели — 7B параметров; точные характеристики конкретного уровня квантизации в README не указаны. К сильным сторонам относятся сочетание языкового и визуального понимания, способность обрабатывать изображения разных форматов и поддержка длинного контекста. Ограничения включают возможные неточности, неподходящие или вредоносные ответы, характерные для генеративных моделей; конкретные ограничения качества и производительности для выбранной квантизации не описаны. Модель распространяется по лицензии Apache-2.0.

RTriever-4B — плотная модель для извлечения текстовых эмбеддингов, разработанная на базе Qwen/Qwen3-Embedding-4B и дообученная для поиска, требующего многошаговых рассуждений и объединения взаимодополняющих свидетельств. Модель содержит около 3,7 млрд параметров, построена на архитектуре Qwen3 и работает с текстом; её можно загружать через sentence-transformers или Transformers с ручным объединением токенов. Контекст составляет до 40 960 токенов по метаданным, а README указывает поддержку длинных входов до 32 тысяч токенов. Модель предназначена для семантического поиска по запросам и документам, в том числе для RAG, поиска научных материалов и агентных поисковых систем. Для запросов требуется инструкция: в sentence-transformers можно использовать prompt_name="query", тогда как документы кодируются без неё. Векторы нормализованы по L2, поэтому косинусное сходство можно считать скалярным произведением. Для специализированных областей полезно задавать собственный шаблон запроса; длинные документы рекомендуется ограничивать 4–8 тысячами токенов ради стоимости вычислений. Лицензия — MIT.

ceggian/sbert_pt_reddit_softmax_32 — модель Sentence-Transformers на архитектуре BERT, разработанная пользователем ceggian. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение использовало SoftmaxLoss и данные Reddit, что указывает на настройку для задач сходства предложений. Модель подходит для семантического поиска и группировки похожих текстов; её векторные представления можно использовать в системах поиска и анализа текстов. README не уточняет поддерживаемые естественные языки и лицензию, поэтому область применения и условия использования по этим параметрам определить нельзя.

HasinMDG/SetFit_Labse_Sentiment_Towards_Topic — модель на основе BERT, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации.

Huangsssz/SmolLM3-3B-MOPD-Top64-GT-NoThinking-500 — исследовательский чекпойнт языковой модели, созданный дообучением BytedTsinghua-SIA на 500 шагах оптимизатора методом дистилляции по пересечению Top-64 токенов. Используется архитектура SmolLM3ForCausalLM: плотная модель на 3,1 млрд параметров; экспорт выполнен в BF16 для Transformers. Контекст модели — до 65 536 токенов. Модель предназначена для генерации текста в сценариях решения математических задач, программирования и следования инструкциям. При обучении ответы оценивали соответствующие специализированные учителя; генерация и оценивание выполнялись с отключённым режимом рассуждений. В README приведены результаты отдельных бенчмарков, включая math500, LiveCodeBench и IFBench; это измерения по фиксированному протоколу, а для AIME указано небольшое число вопросов, поэтому небольшие различия в оценках не подтверждают устойчивое улучшение. Чекпойнт включает токенизатор и исходный шаблон чата. Для инференса без рассуждений README рекомендует явно передавать enable_thinking=False. Модель распространяется по лицензии Apache-2.0; карточка указывает, что экспорт сохраняет конфигурацию базовой модели, включая настройки RoPE и поведение стоп-токенов.

Spark-X2.5-1.7B Community Quants — это набор GGUF-квантизаций модели Spark-X2.5-1.7B, разработанной XHToken. Данные варианты опубликованы сообществом пользователем darioooooo0o и предназначены для локального запуска текстовой генерации, в том числе агентных сценариев с вызовом инструментов, через llama.cpp или совместимую инфраструктуру. Для GGUF требуется форк llama.cpp от XHToken, поскольку архитектура spark2_5 пока не входит в upstream llama.cpp. Модель имеет 1,7 млрд параметров, гибридное внимание с соотношением 3:1 между sliding-window и full attention и поддерживает нативный контекст до 1 млн токенов. Доступны варианты Q8_0, Q6_K, Q4_K_M и IQ4_XS размером примерно от 1,0 до 1,7 ГБ. Квантизация выполнена с использованием importance matrix; варианты рассчитаны на полностью GPU-резидентный запуск, начиная примерно с видеокарт с 4 ГБ памяти, при этом доступный контекст зависит от объёма VRAM и выбранной точности. Сильные стороны модели — компактный размер, высокая скорость декодирования, большой контекст и проверенная поддержка tool calling, включая сложные схемы, параллельные вызовы и многошаговые циклы с результатами инструментов. Ограничение уровня исходной модели — риск бесконечных циклов рассуждений на расплывчатых открытых вопросах; для автономных систем рекомендуется задавать бюджет рассуждений и тайм-ауты. Лицензия — Apache-2.0.

StaRSE — компактная модель статических эмбеддингов русских предложений, представленная как StaticEmbedding для Sentence-Transformers. Она предназначена для быстрого вычисления векторных представлений на CPU, когда высокопроизводительная обработка важнее использования полного Transformer-энкодера. Модель подходит для оценки семантического сходства, кластеризации, извлечения признаков для классификации и построения начальных представлений для поиска. В README указаны 61,51 млн логических параметров: матрица размером 120 138 × 512 хранится в виде бинарных знаковых битов и вектора норм FP32. Для набора MTEB(rus, v1.1) приведён средний основной балл 51,16 по 23 задачам. Модель ориентирована на русский язык и использует Sentence-Transformers; формат файлов репозитория — safetensors. Модель опубликована под лицензией Apache-2.0. В README приведены результаты классификации, кластеризации и многометочной классификации; показатели для других сценариев в доступном фрагменте не раскрыты.