I.12Рекомендации и персонализация

inkoziev/sbert_synonymy — русскоязычная модель Sentence-Transformers от inkoziev для оценки синонимичности коротких фраз и предложений. Она основана на cointegrated/rubert-tiny2 и содержит около 29 млн параметров; модель использует архитектуру BERT и принимает текстовые фразы для получения векторов размерностью 312. Косинусное сходство между векторами служит оценкой близости по смыслу. Модель подходит для поиска перефразировок и семантически близких высказываний, например в диалоговых системах и при сопоставлении фактов. Она рассчитана преимущественно на короткие фразы длиной до 10–15 слов, быстро работает даже на CPU и поддерживает контекст до 2048 токенов. Обучающие данные частично доступны в датасете inkoziev/paraphrases. Лицензия — Unlicense.

lmstudio-community/Llama3-ChatQA-1.5-8B-GGUF — квантизированная в формате GGUF версия модели Llama3-ChatQA-1.5-8B, разработанной NVIDIA. Модель построена на базе Llama 3 и предназначена прежде всего для генерации текста, диалоговых ответов и задач retrieval-augmented generation (RAG). Квантизацию выполнил bartowski на основе llama.cpp. Модель ориентирована на ответы на вопросы по предоставленному контексту, его суммаризацию и извлечение релевантной информации. Она рассчитана на англоязычные сценарии и обучалась с улучшенным рецептом ChatQA, включая дополнительные данные для conversational QA, табличных задач и арифметических вычислений. Указанный размер модели — 8 миллиардов параметров; сведения о длине контекста и конкретном варианте квантизации в README не приведены. Сильной стороной модели является способность формировать содержательные ответы, опираясь на переданный контекст, и указывать, когда ответ в нём не найден. Она может применяться и в более общих задачах, но в первую очередь предназначена для RAG и работы с контекстом. К ограничениям относятся зависимость качества от полноты и точности предоставленного контекста, а также потенциальная неточность или нежелательное содержимое ответов. Модель распространяется по лицензии Llama 3.

Mistral-Trismegistus-7B-Mistral-7B-Instruct-v0.2-slerp — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.2 и teknium/Mistral-Trismegistus-7B методом SLERP; веса опубликованы в формате safetensors. Модель предназначена для диалоговой генерации текста и выполнения инструкций. Контекст составляет до 32 768 токенов, что подходит для многошаговых диалогов и запросов с большим объёмом входного текста. Карточка не уточняет специализацию Trismegistus, поэтому узкие области применения не заявляются. Лицензия — Apache-2.0. Как и другие генеративные языковые модели, она может выдавать неточные или вымышленные сведения; результаты следует проверять.

BeagSake-7B — объединённая текстовая модель, созданная shadowml с помощью LazyMergekit из shadowml/BeagleSempra-7B и shadowml/WestBeagle-7B. Веса получены методом SLERP с настройками, которые смешивают параметры attention и MLP по-разному; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат файлов — safetensors. Модель поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке приведены результаты Open LLM Leaderboard: средняя оценка 75,38, включая 72,44 на AI2 Reasoning Challenge и 88,39 на HellaSwag; эти результаты отражают только указанные тесты и не гарантируют качество в других сценариях. Доступна по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

NVIDIA DeepSeek-V3.2-NVFP4 — текстовая авторегрессионная модель на архитектуре Transformer с классом DeepseekV32ForCausalLM, основанная на DeepSeek-V3.2 от DeepSeek AI. NVIDIA выпустила эту квантованную версию с помощью TensorRT Model Optimizer; она предназначена для генерации текста и развёртывания в чат-ботах, агентных системах, RAG и других приложениях на базе ИИ. Модель принимает текст и генерирует текст, поддерживает контекст до 163 840 токенов и насчитывает 37,6 млрд параметров по метаданным Hugging Face. Квантование NVFP4 снижает требования к диску и памяти GPU примерно в 1,66 раза; для запуска README указывает TensorRT-LLM версии 1.2.0rc8 или новее и восемь GPU B200. Оптимизация рассчитана на оборудование NVIDIA Blackwell и Linux. Модель заявлена для коммерческого и некоммерческого использования по лицензии MIT. Она может воспроизводить токсичные формулировки и социальные предубеждения из обучающих данных, а также давать неточные, неполные, нерелевантные или избыточные ответы; перед внедрением её следует проверять на данных конкретного сценария.

Ramonda Monarch 7B — объединённая модель для генерации текста, опубликованная mayacinka. Она создана методом DARE-TIES с помощью LazyMergekit на основе bardsai/jaskier-7b-dpo-v5.6, eren23/ogno-monarch-jaskier-merge-7b, liminerity/Omningotex-7b-slerp и yleo/OgnoMonarch-7B. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и ответов на запросы; в карточке приведены результаты нескольких языковых и логических бенчмарков. Доступны веса в формате safetensors с точностью bfloat16. Лицензия в предоставленных данных не указана. Поскольку это слияние нескольких моделей, условия использования могут зависеть от лицензий исходных моделей; перед применением следует проверить их отдельно.

BLOOMZ-3B — многоязычная языковая модель BigScience, дообученная на BLOOM для выполнения инструкций на основе естественно-языковых запросов. Она предназначена для генерации ответов и выполнения задач без примеров, в том числе перевода, классификации тональности, подбора поисковых запросов и объяснения понятий. Модель использует плотную авторегрессионную архитектуру BLOOM с 3 млрд параметров и контекстом до 2048 токенов; принимает текст и генерирует текст. Обучение проводилось на многоязычной смеси задач xP3, а лицензия — BigScience BLOOM RAIL 1.0. Модель поддерживает широкий набор языков, включая английский, французский, испанский, китайский, арабский, хинди и другие языки из предобучения BLOOM и дообучения xP3. Её сильная сторона — выполнение разнообразных инструкций и обобщение на задачи, которых не было в обучении. Качество зависит от формулировки запроса: рекомендуется явно обозначать границу входного текста и задавать желаемый язык ответа. Модель может продолжать исходный текст вместо ответа, если запрос сформулирован неоднозначно.

FuseQwQen-7B — объединённая разговорная языковая модель от bunnycore на архитектуре Qwen2. Она создана методом линейного слияния нескольких моделей, включая FuseChat-Qwen-2.5-7B-Instruct, QwQ-LCoT-7B-Instruct, cybertron-v4-qw7B-UNAMGS и модель с адаптером Persona. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Модель предназначена для диалога и генерации ответов, в том числе с опорой на инструкции и рассуждения. В карточке приведены результаты Open LLM Leaderboard, однако данных недостаточно, чтобы подтвердить конкретный уровень качества в отдельных сценариях. Использование предполагает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

GPT-5.6 Luna — модель OpenAI из серии GPT-5.6. Она предназначена для высоконагруженных задач с чувствительностью к задержке, включая диалог, классификацию и лёгкие агентные сценарии. В карточке модель описана как быстрая и экономичная, со способностью к рассуждению. Данных о размере, архитектуре, модальностях, языках, длине контекста и лицензии в предоставленных источниках нет. Метаданные каталога относят модель к задаче image-text-to-text, однако README не подтверждает работу с изображениями.

h2ogpt-oig-oasst1-512-6_9b — языковая модель H2O.ai для генерации текста и следования инструкциям. Это дообученная версия EleutherAI/pythia-6.9b с архитектурой GPT-NeoX, содержащая около 8,8 млрд параметров. Модель принимает текст и генерирует текст; карточка указывает английский язык и контекст до 2048 токенов. Модель предназначена для чат-ботов, ответов на вопросы и выполнения текстовых инструкций. При дообучении использованы наборы инструкций OIG и OpenAssistant, а также персонализированный набор Fortune 2000. Для запуска README предлагает библиотеку Transformers и Accelerate. Лицензия — Apache-2.0, допускающая коммерческое использование. Модель может выдавать неверные, бессвязные или неуместные ответы и воспроизводить предубеждения или оскорбительный контент; результаты требуют проверки человеком.

Kurage — русскоязычная модель для задач поиска по контексту и генерации ответов, разработанная Lightblue. Она основана на Qwen/Qwen2-7B-Instruct и дообучена для RAG-сценариев. Модель имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Kurage умеет выбирать релевантные фрагменты среди нескольких контекстов и отвечать на вопрос, работать с одним фрагментом для параллельной обработки, расширять краткие ответы, отвечать по текстам на других языках и создавать пары вопросов и ответов из исходного текста. Это может помочь подготовить материалы для индексации и поиска. Модель распространяется по лицензии Apache-2.0. Основной язык вопросов и ответов — русский. Ответы по контекстам на других языках возможны, но авторы отмечают нестабильное качество в зависимости от вопроса и языка источника. В режиме работы с одним фрагментом модель иногда ошибочно считает, что контекст не содержит ответа, поэтому результаты следует проверять.

Della-1.5-calc — объединённая плотная языковая модель семейства Llama, созданная с помощью mergekit на основе unsloth/Meta-Llama-3.1-8B. В слияние вошли DreadPoor/Spei_Meridiem-8B-model_stock, DreadPoor/Aspire1.1-8B-model_stock и DreadPoor/Heart_Stolen1.1-8B-Model_Stock; в README указан метод della. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH. Она доступна в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

Maverick-7B — объединённая модель для генерации текста, созданная на основе mlabonne/Marcoro14-7B-slerp и mlabonne/NeuralBeagle14-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалога, ответов на вопросы и других общих языковых задач; в карточке приведены результаты тестов TruthfulQA, GPT4ALL, AGIEval и Bigbench. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

cloudyu/mistral_15B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на базе архитектуры Mistral и дообученная методом SFT на наборе vicgalle/alpaca-gpt4. Карточка указывает 64 слоя; в метаданных размер модели составляет 14,1 млрд параметров, а родной контекст — 32 768 токенов. Модель принимает инструкции и необязательные входные данные в шаблоне «инструкция — вход — ответ» и генерирует текстовые ответы. Модель предназначена для диалогов и выполнения инструкций общего назначения. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. README и метаданные не указывают поддерживаемые естественные языки или специализированные области применения.

MotherEarth-1.15 — объединённая языковая модель от MotherEarth, созданная методом SLERP с помощью mergekit на основе MotherEarth/MotherEarth-Storm-1.0-8B и MotherEarth/Sauerkraut-Proverbs-8B. Модель построена на архитектуре Llama с плотной структурой и предназначена для генерации текста и диалогового общения. В репозитории указаны веса в формате safetensors; метаданные сообщают о 7,5 млрд параметров и контекстном окне до 131 072 токенов. Для запуска используется библиотека Transformers. Дата публикации — 22 сентября 2024 года. Лицензия в предоставленных данных не указана.

Noromaid-7b-v0.2-Mistral-7B-Instruct-v0.1 — языковая чат-модель MaziyarPanahi для генерации текста и ответов на диалоговые запросы. Она получена слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и NeverSleep/Noromaid-7b-v0.2; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors в формате bfloat16 и распространяется по лицензии Apache-2.0. Карточка не описывает отдельные языковые или предметные специализации, поэтому модель можно рассматривать как универсальную чат-модель.

knowledgator/Qwen-encoder-0.5B — текстовая модель Knowledgator на архитектуре Qwen2 с 494 млн параметров. Это двунаправленная версия Qwen2-0.5B, преобразованная в текстовый энкодер по подходу LLM2Vec: с двунаправленным вниманием, masked token prediction и контрастивным обучением на данных Wikipedia. Модель предназначена для извлечения контекстных представлений текста и адаптации к задачам классификации, ответов на вопросы и разметки токенов, включая распознавание именованных сущностей. Модель работает с текстом, использует библиотеку Transformers и поддерживает контекст до 131 072 токенов. В карточке указаны английский язык и датасет Wikipedia. Указанная лицензия — Apache-2.0. README содержит примеры адаптации и дообучения под конкретные дискриминативные задачи; результатов оценки качества для отдельных задач в предоставленных материалах нет.

Модель s-nlp/rubert-base-cased-conversational-paraphrase-v1 разработана для оценки семантического сходства предложений на русском языке. Это дообученная ruBERT-conversational с архитектурой BERT и классификационной головой для последовательностей; она обучена на смеси наборов ru_paraphraser, RuPAWS и данных краудсорсинговой оценки сохранения содержания при детоксикации русского текста. В репозитории около 205,1 млн параметров, веса доступны в форматах PyTorch и Safetensors, максимальная длина контекста — 512 токенов. Модель подходит для обнаружения перефразирований и сравнения смысла двух русских фраз. На тестах разработчика ROC AUC составил 0,762–0,848 в зависимости от набора данных. Это модель-классификатор для пар текстов, поэтому её оценки не следует трактовать как универсальную метрику сходства; автор отмечает, что SkolkovoInstitute/ruRoberta-large-paraphrase-v1 показывает лучшие результаты на этой задаче. Лицензия в предоставленных источниках не указана.

Synthia-70B-v1.2 — языковая модель семейства Llama, разработанная Migtissera на основе Llama 2 70B и дообученная на синтетических наборах данных в стиле Orca. Она предназначена для следования инструкциям, генерации текста и продолжительных диалогов. Модель содержит 68,7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст; максимальная длина контекста составляет 2048 токенов. В версии 1.2 использовано на 20% больше данных и вдвое больше времени обучения, чем в версии 1.1. README приводит результаты оценки на задачах ARC и HellaSwag. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или иной неподходящий контент; её автор характеризует её как неограниченную по содержанию. Лицензия — Llama 2 License.

braginpawel/zft-v4-34b-kto-1 — дообученная Pawel Bragin разговорная языковая модель на архитектуре Mistral с 34,2 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; модель обучена на базе braginpawel/zft-v4-34b с использованием Unsloth и библиотеки TRL. Для запуска опубликованы веса в формате safetensors, лицензия — Apache-2.0. Заявленная длина контекста составляет 131 072 токена. В карточке и метаданных не описаны специальные предметные области или отдельные ограничения качества; практические результаты могут зависеть от промпта и сценария применения.

ODeNy/ChecketV2 — модель Sentence Transformers, дообученная разработчиком ODeNy на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой и перефразированной близости с помощью косинусного сходства. Основное применение — оценка сходства формулировок; также модель подходит для семантического текстового сходства и поиска похожих фрагментов. Сравнение текстов по стилю автор README называет экспериментальным сценарием. Модель построена на XLM-RoBERTa с усреднением токенных представлений и обучена с CoSENTLoss на датасете ODeNy/ChecketV2-Dataset. README указывает максимальную длину последовательности 128 токенов; метаданные каталога сообщают нативный контекст 514 токенов. Карточка называет нидерландский основным языком и заявляет многоязычность, но конкретный перечень дополнительных языков не приводит. Лицензия — Apache 2.0.

jul-decision-e5-small — дообученная командой jul компактная модель на базе multilingual-e5-small для типизированных решений по тексту: выбора категории (Choice), ответа «да/нет» (Noul) и выставления оценки (Score). В репозитории есть два варианта весов: векторная модель кодирует текст и варианты ответа отдельно для сравнения, а cross-модель обрабатывает вопрос и текст совместно. Архитектура — BERT, 124,3 млн параметров, контекст до 512 токенов; модель рассчитана на английский и французский языки. Для классификации Choice входы векторного варианта используют префикс `query: `; модель можно запускать в облегчённой сборке ONNX с 8-битной квантизацией, опубликованной отдельно. Модель подходит для классификации текстов по заданным вариантам, бинарных решений и оценивания без размеченных примеров, а также для тонкой настройки на конкретную задачу при наличии меток. В README приведены результаты на классификации, определении тональности и оскорбительного содержания, перефразировании и выводе. Указаны слабые места: оценка срочности, распознавание вежливых, но серьёзных жалоб, различение предложений с одинаковыми словами в разном порядке и ответы на вопросы, требующие знаний. Лицензия — Apache-2.0.

Это дообученная диалоговая модель egoigo на базе kakaocorp/kanana-1.5-8b-instruct-2505. Модель относится к семейству Llama, имеет плотную архитектуру и около 7,5 млрд параметров; она принимает текстовые запросы и генерирует текст, в том числе в формате диалога и с интерфейсом вызова инструментов. Контекст составляет до 32 768 токенов. Модель подходит для диалоговых помощников и генерации текста. Базовая Kanana также предназначена для программирования и математики, однако README не описывает специализацию или результаты именно этой версии Persona-Merge-K. Модель опубликована под лицензией Apache-2.0.

bunnycore/Llama-3.2-3B-Deep-Test — объединённая языковая модель разработчика bunnycore, созданная из четырёх моделей семейства Llama с помощью mergekit и метода DARE TIES. В качестве базовой использована bunnycore/Llama-3.2-3B-RP-DeepThink; в объединение также вошли bunnycore/Llama-3.2-3B-All-Mix, bunnycore/Smol-Llama-3.2-3B и prithivMLmods/Llama-Deepsync-3B. Модель с архитектурой LlamaForCausalLM содержит 3,2 млрд параметров, принимает текст и генерирует текст. Заявленная длина контекста — 131 072 токена. Подходит для диалогов, ролевых сценариев, развёрнутых рассуждений, ответов на вопросы и суммаризации. Модель распространяется в формате safetensors для Transformers; условия лицензии в предоставленных данных не приведены.

FourOhFour/MegaMix_4B — языковая модель, созданная разработчиком FourOhFour слиянием нескольких предварительно обученных моделей Llama через mergekit. В качестве базовой модели слияния использована FourOhFour/Zenith_4B; также объединены NeuroCom_4B, NeuroCom_v2_4B, Luxe_4B, QuantuMinx_4B, Maelstrom_4B, Poe_4B и Deedlit_4B. Для слияния применён метод task arithmetic. Модель содержит 3,9 млрд параметров, использует архитектуру Llama с причинным языковым моделированием и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Pleias-RAG-1B — языковая модель Pleias с 1,2 млрд параметров, дообученная на базе PleIAs/Pleias-1.2B-Preview для retrieval-augmented generation (RAG), поиска и суммаризации источников. Она принимает структурированный ввод с запросом и источниками и формирует структурированный ответ с последовательностью рассуждений и ссылками на источники. Архитектура — плотная LlamaForCausalLM; модель работает в Transformers, использует формат safetensors и поддерживает контекст до 4096 токенов. Модель предназначена для ответов на вопросы по предоставленным материалам, включая вопросы с рассуждением по нескольким источникам, оценки достаточности источников, переформулирования запросов и ранжирования материалов. Она стремится отвечать на языке запроса и поддерживает основные европейские языки; README перечисляет французский, немецкий, итальянский, испанский, польский, латинский и португальский, а метаданные также отмечают английский. Разработчик сообщает о встроенной опоре на источники и цитирование, а также о компактности, позволяющей развёртывание на ограниченной инфраструктуре, включая мобильные устройства. Модель выпущена под лицензией Apache-2.0. Заявления о качестве основаны на бенчмарках HotPotQA, 2wiki и MuSiQue; описанная оценка охватывает режим вопросов, требующих многошагового рассуждения и отбора источников, поэтому результаты не следует автоматически переносить на все сценарии. Контекст ограничен 4096 токенами, а для работы со структурированным форматом разработчик рекомендует официальную библиотеку.

Wendi 2B — компактная модель для принятия решений, разработанная на основе Qwen3.5-2B. Она получает свидетельства, критерий выбора и небольшой набор вариантов, после чего выбирает ответ одним предсказанием следующего токена. Модель предназначена для маршрутизации рабочих процессов, выбора следующего действия, классификации с учётом инструкций, проверки свидетельств, анализа использования инструментов и классификации электронной почты. Модель представляет собой плотную архитектуру Qwen3.5 с 2 млрд параметров; карточка указывает настройку контекста до 262 144 токенов и поддержку диалога. Wendi дообучена с помощью supervised fine-tuning и гибридного GRPO; языковые LoRA-адаптеры ранга 16 объединены в самостоятельный BF16-чекпойнт. Для обслуживания README рекомендует актуальные версии SGLang или vLLM с поддержкой Qwen3.5. Метаданные указывают языки en и zh. Внутренние отложенные проверки показывают пригодность для ряда задач классификации и выбора по заданным критериям, однако результаты различаются по категориям и не гарантируют точность на новых данных. Для запросов на принятие решений README рекомендует отключать режим thinking, использовать заглавные буквы для вариантов и оценивать следующий токен только среди допустимых ответов. Модель распространяется по лицензии Apache-2.0.

Jebadiah/Aria-dolphin-1m-sand-stone — языковая модель, созданная разработчиком Jebadiah слиянием методом linear через mergekit моделей Jebadiah/Aria-7b-128k-v4 и cognitivecomputations/dolphin-2.9-llama3-8b-1m. Это плотная архитектура MistralForCausalLM с 7,1 млрд параметров; веса сохранены в формате safetensors, с точностью float16. Модель предназначена для генерации текста и принимает текстовые запросы, выдавая текст. Заявленная длина контекста — 32 768 токенов. Карточка не описывает специализированные предметные области или конкретные языки. Условия лицензирования в предоставленных данных не приведены.

jaspionjader/ek-2 — слитая языковая модель на архитектуре Llama, созданная разработчиком jaspionjader с помощью mergekit. В слиянии методом Model Stock использованы ek-1, Kosmos-EVAA-Franken-stock-v42-8B и Kosmos-EVAA-Franken-Immersive-v41-8B; базовая модель — jaspionjader/kstc-5-8b. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors, с весами bf16, согласно конфигурации слияния в README. Лицензия в предоставленных данных не указана.

HCAE-21M-v1.1-Instruct — инструктивно дообученная модель эмбеддингов HeavensHackDev на архитектуре Hybrid Convolutional-Attention Encoder (HCAE). Она предназначена для поиска по смыслу, асимметричного поиска и семантического анализа специализированных текстов, включая научные и медицинские корпуса. Для запросов и документов поддерживает префиксы `query:` и `passage:` соответственно. Модель содержит 21,1 млн параметров, имеет гибридную архитектуру с четырьмя сверточными и четырьмя attention-блоками, а размерность эмбеддингов составляет 384. Контекст ограничен 512 токенами. Доступны веса Safetensors и формат ONNX для запуска, в том числе на устройствах с ограниченными ресурсами. В README приведены результаты на STSBenchmark и SciFact. Модель дообучена на наборах NLI, SciFact и специализированных технических данных. Лицензия — Apache-2.0.