I.11Классификация, ранжирование и сопоставление

QuantTrio/DeepSeek-V3.2-Exp-AWQ — AWQ-квантизированная версия экспериментальной языковой модели DeepSeek-V3.2-Exp, разработанной DeepSeek AI и опубликованной QuantTrio. Модель предназначена для генерации текста, диалоговых приложений и серверного инференса через Transformers и vLLM, включая сценарии с автоматическим выбором инструментов и вызовом функций. В основе лежит архитектура DeepSeek-V3.2-Exp с механизмом DeepSeek Sparse Attention (DSA), рассчитанным на повышение эффективности обучения и инференса при работе с длинными последовательностями. В README заявлена поддержка контекста до 32 768 токенов. Модель является текстовой; сведения о размере, количестве параметров и поддерживаемых языках не указаны. Размер файлов модели составляет около 373 ГБ. К сильным сторонам относятся снижение вычислительных затрат при обработке длинного контекста благодаря разреженному вниманию и совместимость с оптимизациями vLLM, включая expert parallelism и speculative decoding. Ограничения включают экспериментальный статус, необходимость специализированной конфигурации и минимум шести GPU для указанного односерверного запуска. На момент публикации заявлена поддержка только датацентровых GPU Hopper и Blackwell; производительность и совместимость с другим оборудованием могут отличаться. Модель распространяется по лицензии MIT.

DeepSeek-V4-Flash-0731-Abliterated-DS4-Quality128 — это GGUF-квантизованная версия модели DeepSeek V4 Flash, подготовленная apetersson на основе чекпойнта apetersson/DeepSeek-V4-Flash-0731-Abliterated-FP8. Модель предназначена для локальной генерации текста и запуска через DS4 или llama.cpp, включая работу на Apple Silicon с ускорением Metal. Это MoE-модель с разреженной маршрутизацией экспертов; сведения о точном общем числе параметров, поддерживаемых языках и максимальном контексте в README не указаны. Профиль DS4 Quality128 ориентирован на сохранение качества при размещении модели в памяти 128-ГБ M1 Ultra. Размер основного GGUF-файла составляет около 95,8 GiB. В наиболее чувствительных маршрутизируемых экспертах сохранён нативный формат MXFP4, остальные эксперты используют IQ2_XXS и Q2_K, а attention-, shared-expert- и output-пути — Q8; отдельные индексатор и вспомогательные тензоры защищены в F16. Abliteration затрагивает только 36 attention-тензоров wo_b, тогда как коды и масштабы routed experts сохранены без изменений. Основное преимущество модели — ориентированная на качество квантизация и возможность запуска на совместимом локальном оборудовании. Целевой GGUF совместим с DS4 и llama.cpp для обычного inference; для DSpark speculative decoding требуются отдельные runtime-специфичные companion-файлы, которые нельзя взаимозаменять. Поддержка зависит от конкретной версии runtime: stock llama.cpp b10210 поддерживает только обычный запуск, а DSpark требует специальных сборок и изменений DeepSeek V4. Приведённые в README показатели производительности основаны на кратком smoke-тесте и не являются устойчивым бенчмарком. Лицензия модели — MIT.

DeepSeek-V4-Flash-0731-Pruned-155B-A13B-GGUF — неофициальная производная модель, созданная сообществом на основе DeepSeek-V4-Flash-0731 и GGUF-сборки Unsloth. Она не выпущена и не одобрена DeepSeek. Модель предназначена для генерации текста и локального запуска через llama.cpp, прежде всего на Apple Silicon с 64 ГБ памяти, включая сценарии агентного программирования и задач SWE-bench. Это MoE-модель примерно со 155,5 млрд параметров и около 13 млрд активных параметров на токен. В 40 основных MoE-слоях число маршрутизируемых экспертов сокращено с 256 до 128, а первые три hash-слоя сохраняют все 256 экспертов. Веса представлены в квантизации IQ3_XXS; используется GGUF. Основная сборка требует специальной модификации llama.cpp, тогда как альтернативная ZP256 совместима с обычной версией llama.cpp, но работает медленнее. Для ускорения поддерживается speculative decoding с отдельной моделью DSpark. Главное преимущество — возможность полностью разместить основную сборку на GPU 64-гигабайтного Mac mini M4 Pro и получить существенно более высокую скорость по сравнению с частичной выгрузкой исходной модели: до 21,2 токена в секунду при коротком контексте и 14,3–16,6 токена в секунду при агентном контексте 8–32 тыс. токенов. На подмножестве SWE-bench Verified из 100 задач модель решила 77,5% задач против 84,0% у официальной FP8-версии, поэтому pruning сопровождается заметным снижением качества. Калибровочная imatrix исходной модели отдельно для обрезанной версии не проверялась. Лицензия — MIT. Для работы основной сборки требуются совместимые патченные llama.cpp и настройка лимита выделяемой GPU-памяти macOS; заявленная производительность относится к конкретной конфигурации Mac mini M4 Pro 64 ГБ и может отличаться на другом оборудовании.

EuroLLM-9B-Instruct-2512 — мультиязычная языковая модель с 8,6 млрд параметров, разработанная консорциумом Instituto Superior Técnico — University of Lisbon, Instituto de Telecomunicações, University of Edinburgh, Aveni, Unbabel и другими научными и коммерческими организациями при финансировании Европейского союза. Это дообученная версия EuroLLM-9B-2512 для диалогового взаимодействия и генерации текста; в ней применены расширение контекста и обновлённая схема постобучения. Модель использует плотную архитектуру семейства Llama и поддерживается библиотекой Transformers. Модель предназначена для генерации ответов и ведения диалога на европейских и других языках, включая русский, английский, арабский, китайский, хинди, японский и корейский. Родной размер контекста — 32 768 токенов. Веса опубликованы в формате Safetensors, лицензия — Apache License 2.0. Разработчики предупреждают, что модель не выровнена по человеческим предпочтениям и может галлюцинировать, выдавать вредоносный контент или ложные утверждения. Эти особенности следует учитывать при использовании ответов без проверки.

Eurus-70B-SFT — большая языковая модель OpenBMB, дообученная для рассуждений на основе CodeLLaMA-70B. Модель содержит 68,7 млрд параметров, использует плотную архитектуру LLaMA и принимает контекст до 16 384 токенов. Она обучена на корректных действиях из UltraInteract с небольшой примесью примеров UltraChat, ShareGPT и OpenOrca. Модель предназначена для диалогов и решения задач, требующих пошаговых рассуждений, в том числе математических и связанных с программированием. Для кода и математики авторы рекомендуют специальные шаблоны запросов, согласованные с форматами обучающих данных. В README заявлены высокие результаты на сравнительных оценках, но подробные результаты в карточке не приведены. Модель распространяется в формате safetensors по лицензии Apache 2.0.

Experiment26Neuralsirkrishna_Experiment26Strangemerges_30 — объединённая автором репозитория модель на архитектуре Mistral с 7,1 млрд параметров. Веса объединены из automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment26Strangemerges_30-7B. Модель предназначена для генерации текста и диалогов. Она принимает текст и может обрабатывать контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

bartowski/gemma-2-27b-it-GGUF — это набор GGUF-квантизаций инструкционно дообученной текстовой модели Google Gemma 2 27B IT, подготовленный bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы пользователя, при запуске через llama.cpp и совместимые инструменты. В README не указаны поддерживаемые языки, максимальный размер контекста и дополнительные модальности, поэтому модель следует считать текстовой. Доступны варианты от F32 размером 108,91 ГБ до низкобитных Q2 и IQ2 размером около 9,40 ГБ. Квантизация выполнена с использованием imatrix; варианты Q6 и Q5 сохраняют очень высокое или высокое качество, а Q4 ориентированы на более экономное использование памяти. Низкобитные варианты требуют меньше ресурсов, но снижают качество и могут быть менее стабильными. Модель не поддерживает системный промпт; для диалогов необходимо использовать указанный в README формат ролей Gemma. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma. README не содержит полного текста лицензии, поэтому перед использованием необходимо ознакомиться с её условиями и проверить их применимость к конкретному сценарию.

duyntnet/gemma-2-27b-it-imatrix-GGUF — набор квантизированных версий instruction-tuned языковой модели Gemma 2 27B IT, опубликованный пользователем duyntnet на базе модели Google gemma-2-27b-it. Формат GGUF предназначен для запуска через llama.cpp и совместимые клиенты, включая KoboldCPP, text-generation-webui и Ollama. Модель относится к задачам генерации текста и поддерживает диалоговое взаимодействие с использованием специального chat template. Известно, что исходные веса модели имеют размер 27 миллиардов параметров и представлены в bfloat16; в данном репозитории опубликованы варианты с квантизацией imatrix. Модель ориентирована прежде всего на англоязычную генерацию, поскольку в карточке указан язык en. Она может применяться для ответов на инструкции, написания текстов, программного кода и других задач text generation. Точный набор квантизаций, размер контекста и архитектурные характеристики в README не указаны. Для запуска подходят llama.cpp и перечисленные совместимые интерфейсы. В README отмечены возможные проблемы Gemma 2 с SDPA и Flash Attention 2, поэтому рекомендуется использовать eager attention; это ограничение относится к исходной модели и способам запуска. Лицензия указана как other, без дополнительных условий в предоставленных данных.

unsloth/gemma-3-1b-it — диалоговая версия Gemma 3, размещённая Unsloth и основанная на Google/gemma-3-1b-it. Это плотная языковая модель Gemma3ForCausalLM примерно с 1 млрд параметров, предназначенная для генерации текста и общения по инструкциям. Репозиторий содержит веса в формате Safetensors; модель работает через Transformers и рассчитана на контекст до 32 768 токенов. Модель подходит для диалоговых помощников, черновиков текстов и писем, суммаризации и ответов на вопросы. В README описаны возможности семейства Gemma 3, включая мультимодальный ввод изображений, но этот конкретный чекпойнт имеет текстовую архитектуру и базовую модель Gemma 3 на 1 млрд параметров; поэтому поддержку изображений ему не приписываю. Метаданные указывают английский язык. Лицензия — Gemma. Как и другие генеративные модели, она может ошибаться в фактах, отражать смещения обучающих данных и хуже справляться с неоднозначными или сложными запросами. Качество зависит от промпта и контекста.

GPT-OSS-Swallow 20B SFT v0.1 — двуязычная языковая модель Tokyo Tech, созданная на основе GPT-OSS с продолжением предобучения и supervised fine-tuning. Она предназначена для диалога на японском и английском языках, перевода между ними, а также задач по математике, программированию и естественным наукам. Модель имеет MoE-архитектуру семейства GPT-OSS, около 1,6 млрд параметров по метаданным и поддерживает контекст до 131 072 токенов; карточка рекомендует ограничивать контекст 32 768 токенами или меньше, поскольку длинный контекст отдельно не обучался и не оценивался. Для инференса разработчики рекомендуют vLLM. Модель улучшает владение японским языком и перевод, сохраняя заявленные способности GPT-OSS в математике и коде. Разработчики отмечают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Использование инструментов и управление уровнем рассуждений не проходили специального обучения, поэтому эти сценарии не валидированы. Лицензия — Apache 2.0.

Huginn-0125 — экспериментальная языковая модель исследовательской группы TomG Group при University of Maryland. Это плотная decoder-only модель на 3,5 млрд параметров, обученная с нуля на 800 млрд токенов и реализованная как рекуррентная модель с латентной глубиной: при генерации можно задавать число итераций вычислений num_steps, увеличивая глубину обработки без фиксированного числа слоёв. Модель работает с текстом, поддерживает диалоговый шаблон и ориентирована на генерацию текста, рассуждения, математические задачи и код. Модель обучалась 47 000 шагов на открытых данных и не проходила дообучение или постобучение, хотя в предварительное обучение включались инструкции. Авторы характеризуют её как proof of concept; увеличение num_steps улучшает результаты на бенчмарках примерно до 64 шагов, а при числе меньше четырёх ответы становятся грубыми. Для инференса рекомендуется bfloat16; для кэширования KV требуется специальная реализация HuginnDynamicCache, которая может быть чувствительна к обновлениям Transformers. Доступна по лицензии Apache-2.0.

Kosmos-2.5-chat — мультимодальная модель Microsoft для визуальных вопросов и ответов по изображениям с текстом. Она дообучена на основе Kosmos-2.5 и использует авторегрессионный Transformer с декодером, принимающий изображение и текстовый запрос и генерирующий текстовый ответ. Модель предназначена для визуального анализа документов и других изображений с большим объёмом текста. Исходное семейство Kosmos-2.5 также распознаёт текст с пространственными координатами и преобразует структуру и оформление документов в Markdown; карточка этой версии отдельно указывает обучение для задач VQA. Модель доступна в формате Safetensors и используется через Transformers версии 4.56 или новее. Поддерживаемый язык карточки — английский. Модель может ошибаться и галлюцинировать, поэтому результаты распознавания и ответы по содержимому изображения требуют проверки. Лицензия — MIT.

m8than/Llama-2-7b-chat-hf — копия модели Llama 2 7B Chat от Meta, размещённая на Hugging Face. Это авторегрессионная плотная Transformer-модель примерно с 6,6 млрд параметров, оптимизированная для диалогов и генерации текста. Она принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. В карточке Meta указаны английский язык, обучение с учителем и дополнительное выравнивание с помощью RLHF. Модель подходит для диалоговых помощников, ответов на вопросы и создания текстовых продолжений. Возможны неточные или предвзятые ответы и небезопасные генерации. Репозиторий указывает лицензию Apache-2.0, однако исходная модель Llama 2 распространяется по лицензии Meta Llama 2 Community License; перед использованием следует учитывать условия лицензии исходных весов.

lmstudio-community/Llama3-ChatQA-1.5-8B-GGUF — квантизированная в формате GGUF версия модели Llama3-ChatQA-1.5-8B, разработанной NVIDIA. Модель построена на базе Llama 3 и предназначена прежде всего для генерации текста, диалоговых ответов и задач retrieval-augmented generation (RAG). Квантизацию выполнил bartowski на основе llama.cpp. Модель ориентирована на ответы на вопросы по предоставленному контексту, его суммаризацию и извлечение релевантной информации. Она рассчитана на англоязычные сценарии и обучалась с улучшенным рецептом ChatQA, включая дополнительные данные для conversational QA, табличных задач и арифметических вычислений. Указанный размер модели — 8 миллиардов параметров; сведения о длине контекста и конкретном варианте квантизации в README не приведены. Сильной стороной модели является способность формировать содержательные ответы, опираясь на переданный контекст, и указывать, когда ответ в нём не найден. Она может применяться и в более общих задачах, но в первую очередь предназначена для RAG и работы с контекстом. К ограничениям относятся зависимость качества от полноты и точности предоставленного контекста, а также потенциальная неточность или нежелательное содержимое ответов. Модель распространяется по лицензии Llama 3.

Llama-3-Groq-70B-Tool-Use-GGUF — это GGUF-квантизированная версия дообученной языковой модели Llama 3 с 70 млрд параметров, разработанной Groq. Квантизацию подготовил bartowski на основе llama.cpp. Модель работает с текстом, поддерживает английский язык и предназначена для генерации текста, вызова функций и взаимодействия с инструментами. Основные сценарии применения — интеграция с API, обработка структурированных данных, автоматизация рабочих процессов и сложные последовательности вызовов инструментов. Модель обучена формировать вызовы функций в структурированном формате, включая имя функции и аргументы, а также обрабатывать ответы инструментов. В Berkeley Function Calling Leaderboard она показывает общую точность 90,76%. Сильной стороной модели является специализация на tool use и function calling, что делает её подходящей для агентных приложений и систем, подключённых к внешним сервисам. Ограничения включают работу только с текстом, заявленную поддержку английского языка и возможные ошибки, неточности или небезопасные результаты генерации. Для использования в LM Studio рекомендуется выбрать шаблон Llama 3. Модель распространяется по лицензии Llama 3; условия применения следует проверять в лицензии исходной модели.

MaziyarPanahi/M7Yamshadowexperiment28_Percival_01Shadow — объединённая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Percival_01Shadow-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Лицензия — Apache-2.0.

Matter-0.2-32B — разговорная языковая модель, созданная 0-hero как дообучение Qwen 32B на наборе Matter 0.2. Набор сформирован из более чем 35 датасетов и включает свыше 6 млрд токенов. Модель использует архитектуру Qwen2 с плотной causal language model, содержит 31,7 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговых ответов и генерации текста. Она использует формат запросов ChatML и поддерживает интерфейс вызова функций, что позволяет подключать её к инструментам и прикладным системам. В метаданных указан английский язык. Модель распространяется под лицензией Apache-2.0. Карточка рекомендует системную инструкцию «You are a helpful assistant»; качество и безопасность ответов зависят от запроса и приложения, поэтому результаты следует проверять при использовании в критически важных сценариях.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-GGUF — набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-интерфейсах и системах, поддерживающих GGUF, включая llama.cpp, text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Точные размер модели, архитектура исходной модели, максимальная длина контекста и поддерживаемые языки в README не указаны. Формат ориентирован на эффективный запуск, в том числе с GPU-ускорением, однако квантование может влиять на качество по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache-2.0.

Mistral-C2F — диалоговая языковая модель, разработанная авторами проекта Mistral-C2F на основе Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, обученная с использованием обучения с подкреплением на основе обратной связи от людей (RLHF). Для усиления аналитических и рассуждательных способностей авторы применили двухэтапный подход Coarse to Fine: выход Coarse Actor объединяется с инструкционной моделью, чтобы перенести подробные рассуждения и уточнить ответы. Модель предназначена для диалогов, интеллектуальных помощников и исследований в области языковых моделей, машинного обучения и обработки естественного языка. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В README авторы отмечают улучшение разговорных и аналитических способностей и снижение токсичных ответов по сравнению с базовой моделью, однако не приводят здесь подробностей оценки. Модель распространяется по лицензии MIT; README указывает, что лицензия совпадает с лицензией базовой Mistral-7B-v0.1.

MOSS-moon-003-sft — языковая модель с 16 млрд параметров, разработанная командой OpenMOSS-Team. Она основана на CodeGen и предварительно обучена на китайских, английских и программных токенах, после чего дообучена с учителем на примерно 1,1 млн многоходовых диалогов. Модель предназначена для диалогов с пользователем, следования инструкциям в нескольких репликах и отказа на неподходящие запросы. Модель принимает текст и генерирует текст; карточка указывает поддержку английского и китайского языков и контекст до 2048 токенов. Её можно применять для ответов на вопросы, простых математических задач, помощи с кодом и китайскоязычных диалогов. Описанные требования к запуску составляют 31 ГБ видеопамяти для загрузки в FP16 и больше при генерации; доступны варианты MOSS в INT8 и INT4, но этот репозиторий содержит веса PyTorch. Модель может выдавать неверную, вводящую в заблуждение или предвзятую информацию, поэтому ответы следует проверять. Лицензия — AGPL-3.0.

Muse Spark 1.3 — мультимодальная reasoning-модель от Meta, предназначенная для длительных агентных, многоагентных и связанных с программированием сценариев. По имеющимся сведениям, она рассчитана на отслеживание информации и выполнение многоэтапных задач. Метаданные каталога относят модель к задаче image-text-to-text, что указывает на обработку изображений и формирование текстового ответа. Данных о размере, архитектуре, длине контекста, поддерживаемых языках и лицензии в предоставленных источниках нет. Полная карточка обрывается, поэтому подробности о возможностях и ограничениях подтвердить нельзя.

Карточка модели PS4Research/NfEJUrTPxT77xQ8f на Hugging Face совпадает с карточкой PS4Research/0VOz3fgU0qp4lVar, поэтому описание составлено по ней. PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

o1-pro — модель из серии o1 от OpenAI, обученной с применением обучения с подкреплением для решения задач, требующих рассуждений перед ответом. Вариант o1-pro использует больше вычислительных ресурсов для более глубокого обдумывания ответа. Модель предназначена для сложных задач рассуждения и подготовки ответов на запросы пользователя. Доступный фрагмент карточки не описывает архитектуру, размер, поддерживаемые языки и длину контекста, поэтому эти характеристики не приводятся. Лицензия в предоставленных данных не указана.

TheBloke/openchat-3.5-1210-GGUF — это набор квантованных моделей в формате GGUF для OpenChat 3.5 1210, разработанной командой OpenChat. Квантование выполнил TheBloke. В основе используется архитектура Mistral, а модель предназначена для генерации текста и диалоговых сценариев. Модель обучалась на совокупности датасетов с диалогами, инструкциями, математическими задачами, программированием и отзывами о качестве ответов. Она подходит для локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Доступны варианты квантования с разной точностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные версии, что позволяет выбирать баланс между требованиями к памяти и качеством генерации. README не указывает размер модели, поддерживаемые языки и длину контекста. Квантование снижает требования к ресурсам и упрощает запуск на CPU и GPU, но может немного ухудшать качество по сравнению с исходной неквантованной версией; степень влияния зависит от выбранного варианта квантования. Для корректного диалога рекомендуется шаблон OpenChat-Correct. Модель распространяется по лицензии Apache 2.0.

win10/phi-3.5-Sakura-Yuzu — объединённая языковая модель, созданная автором репозитория методом TIES с помощью mergekit на основе Microsoft Phi-3.5-mini-instruct. В слияние также вошли win10/Phi-3.5-mini-instruct-24-9-29, FreedomIntelligence/Apollo2-3.8B, ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1 и AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common. Модель семейства Phi-3 — плотная авторегрессионная языковая модель примерно на 3,7 млрд параметров. Она предназначена для диалогов и генерации текста; каталог указывает поддержку чата. Репозиторий использует формат safetensors, библиотеку Transformers и контекст длиной 4096 токенов. Базовая модель описана как многоязычная и рассчитанная на инструкции, рассуждения и код, однако сведения о конкретных языках и специализированной адаптации этого слияния не приведены. Лицензия в предоставленных данных не указана.

bunnycore/Qwen2.5-1.5B-Matrix — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-1.5B-Instruct; в объединение также вошли варианты Qwen2.5 для математики и программирования и Josiefied-Qwen2.5-1.5B-Instruct-abliterated-v1. Модель имеет архитектуру Qwen2ForCausalLM и 1,5 млрд параметров. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции, задачи по программированию и математике. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель доступна в формате safetensors для библиотеки Transformers. Сочетание нескольких специализированных моделей расширяет набор задач, для которых её можно применять, но README не приводит сравнительных оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.

evolveon/Qwen2.5-7B-Instruct-abliterated — разговорная языковая модель, созданная evolveon на основе Qwen/Qwen2.5-7B-Instruct с применением abliteration. Она предназначена для диалогов и генерации текста, включая ответы на запросы пользователя; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM и 7,1 млрд параметров, принимает текст и выдаёт текст. Заявленная длина контекста — 32 768 токенов. В тегах указана поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. По описанию автора, версия создана как uncensored-вариант базовой модели с помощью abliteration; метод и результат отдельно не оценены в карточке. Репозиторий содержит веса safetensors для библиотеки Transformers. Лицензия — Apache-2.0.

Qwen3.5-9B-DS-v4-Flash-v3.0 — экспериментальная плотная модель на 9 млрд параметров от prithivMLmods, дообученная на базе prithivMLmods/Q3.5-9B-DS-v4-Flash-v2.0, построенной на Qwen/Qwen3.5-9B. Модель использует архитектуру Qwen3.5ForConditionalGeneration и предназначена для диалогов с текстом и изображениями; основное обучение было направлено на рассуждения, математику, научный анализ, программирование и следование инструкциям. Автор описывает многоэтапное обучение примерно на 3,5 тыс. отфильтрованных примеров с трассами рассуждений DeepSeek V4 Flash и на дополнительных наборах данных. Модель подходит для экспериментов с многошаговыми и длинными рассуждениями, решения задач и локального запуска через Transformers. В карточке указан формат safetensors и лицензия Apache-2.0. Это экспериментальный выпуск: в сложных задачах возможны ошибочные промежуточные шаги и выводы, а поведение может отличаться от базовой модели. Качество зависит от охвата и особенностей обучающих данных.

Qwen3.6-27B-V1.1-FF711-Darker-Hero-GAIN-H2.0 — дообученная Дэвидом AU мультимодальная модель семейства Qwen3.5 с плотной архитектурой на 27 млрд параметров, основанная на Qwen/Qwen3.6-27B. Карточка описывает метод GAIN, также называемый COLD FUSION: динамическая настройка обучения на уровне отдельных примеров. Модель предназначена для диалогов, рассуждений, программирования, творческого письма и работы с изображениями; метаданные указывают поддержку vision и интерфейс вызова инструментов. Автор заявляет о сокращённых блоках рассуждений, следовании инструкциям и сохранении производительности при низкой точности, однако приведённые в README сравнения и показатели являются заявлениями автора. В примерах упоминается режим без фильтрации и контент NSFW; модель может выдавать ненормативную лексику и материалы для взрослой аудитории. Карточка также сообщает о снижении частоты отказов. Указана лицензия Apache-2.0. В метаданных перечислены английский и китайский языки; других языков карточка не подтверждает.

Это конверсия модели RedHatAI/Qwen3.6-35B-A3B-NVFP4 в формат GGUF, подготовленная для запуска через llama.cpp и совместимые среды. В основе лежит мультимодальная модель Qwen3.6-35B-A3B от Qwen: архитектура Mixture of Experts с 256 экспертами, из которых активируются 8 на токен, чередует линейные Mamba-подобные SSM-слои и полное внимание; зрительный энкодер основан на подходе Qwen2.5-VL. Веса линейных слоёв упакованы в NVFP4, вспомогательные параметры сохранены в BF16/F32. Модель предназначена для диалогов и генерации текста, а в комплекте с мультимодальным проектором mmproj-BF16.gguf может принимать изображения для зрительных задач. Конверсия ориентирована на llama.cpp и требует версии с поддержкой NVFP4 и соответствующего оборудования для этого режима. В приведённых измерениях NVFP4 быстрее обрабатывает длинные промпты, но медленнее генерирует токены, чем Q4_K_XL на модели того же размера. Контекст в карточке не указан. Лицензия Apache-2.0.