II.9Статистика, эксперименты и причинный анализ

Qwen2.5-Coder-14B-Instruct-GGUF — это инструкционно дообученная языковая модель для работы с кодом из серии Qwen2.5-Coder, разработанная командой Qwen при Alibaba Cloud. Модель предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания кодовых агентов и решения задач, связанных с математикой и общими текстовыми запросами. Модель является каузальной языковой моделью в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях внимания. Она содержит 14,7 млрд параметров, 48 слоёв и использует Grouped Query Attention с 40 головами для Q и 8 для KV. Полная длина контекста GGUF-версии составляет 32 768 токенов. Заявлена поддержка английского языка; модальность — текстовая. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также возможность локального запуска через совместимые инструменты, включая llama.cpp. Ограничения включают контекст до 32 768 токенов в GGUF-версии; для последовательностей до 131 072 токенов README рекомендует использовать не-GGUF-версии, поскольку расширение контекста через YARN в указанном сценарии поддерживается только vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Opus-Distill-v2-GGUF — семейство GGUF-квантизаций модели barozp/Qwen3.8-27B-Opus-Distill-v2, разработанной сообществом на базе Qwen/Qwen3.8-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Gated-DeltaNet и full-attention, 64 слоями, поддержкой текста и изображений или видео через отдельный vision-модуль mmproj. Модель предназначена для диалогов, генерации текста и решения задач, требующих рассуждений; исходная модель дообучена методом LoRA на 11 716 проверенных примерах рассуждений, связанных с Opus. Главное назначение версии v2 — исправление дефекта v1, при котором некоторые сочетания ограничений формата могли запускать бесконечный цикл самопроверки без видимого вывода. По данным README, новая версия корректно завершается на проверенных тестах и показывает заметный прирост относительно базовой модели в ARC Challenge и GPQA Diamond, при сопоставимых результатах на MMLU и wikitext. Доступны варианты от BF16 и Q8_0 до экстремально низкобитных IQ-квантизаций; Q4_K_M указан как сбалансированный вариант, а выбор зависит от объёма доступной видеопамяти. IQ-квантизации требуют imatrix и актуальной поддержки llama.cpp. Модель может использоваться в llama.cpp в текстовом режиме, а для мультимодального ввода требуется отдельный vision-файл mmproj. Поддержка языков и размер контекстного окна в README не указаны. К ограничениям относятся потери качества при низкобитной квантизации, повышенные требования к памяти для старших вариантов и необходимость отдельного vision-модуля для изображений и видео. Указанная лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ4e-1M — это релиз модели Qwen3.8-27B Cold Fusion, созданной на основе объединения весов DavidAU. Solstice-AI выполнила последующее квантование, масштабирование контекста и упаковку для Apple MLX. Модель предназначена для локального запуска на компьютерах Apple Silicon, включая MacBook с 16 или 24 ГБ памяти, через Anvil и MLX-LM с ускорением Metal. Модель содержит около 27 млрд параметров и использует смешанную oQ4e-квантизацию с калибровкой по матрице важности; размер релиза составляет примерно 17,02 ГБ. Заявлена гибридная архитектура Qwen 3.8: около 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а остальные — Grouped-Query Attention. Также заявлены аппаратная Multi-Token Prediction для ускорения генерации и встроенное YaRN-масштабирование RoPE до 1 048 576 токенов. В карточке указаны английский и китайский языки. Основные сценарии — рассуждение, программирование, агентная разработка ПО, работа с большими контекстами и многошаговыми задачами. README приводит высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench, CoWorkBench и тестах ARC, однако эти показатели следует воспринимать как заявленные авторами и зависящие от методики оценки. Ограничениями являются требования к совместимому Apple Silicon и программному стеку, последствия 4-битной квантизации, а также значительные вычислительные и временные затраты при использовании контекста до миллиона токенов. Релиз распространяется по лицензии Apache 2.0.

Qwopus3.6-27B-Fusion-GGUF — экспериментальная модель от KyleHessling1, созданная объединением Qwopus3.6-27B-v2 с уклоном на рассуждения и Qwopus3.6-27B-Coder с уклоном на программирование. Обе родительские модели происходят от Qwen/Qwen3.6-27B. Модель предназначена для текстовой генерации, многошагового рассуждения и автономной разработки программного обеспечения, особенно для сценариев, где агент самостоятельно планирует, пишет код, запускает его и исправляет ошибки. Модель содержит 27 млрд параметров и 64 слоя, использует гибридную архитектуру qwen35 с линейным вниманием и периодическими слоями полного внимания. Нативный контекст составляет 262 144 токена; корректная работа проверена на контексте до 60 000 токенов. По умолчанию включён режим reasoning. Доступна версия GGUF с квантизацией Q4_K_M размером около 16,5 ГБ, рассчитанная на запуск через llama.cpp на одной видеокарте с 24–32 ГБ памяти. Поддерживается ввод изображений при использовании совместимого проектора Qwopus3.6-27B-Fusion-mmproj-Q8_0.gguf. В README указан английский язык. Сильные стороны модели — сочетание устойчивого рассуждения и генерации кода, хорошие результаты на HumanEval, MBPP и GSM8K, стабильное завершение генерации и способность работать как автономный агент программирования. Ограничения связаны с экспериментальным статусом и отсутствием полного строгого оценивания; результаты зависят от квантизации и режима работы. Лицензия указана как other с названием qwen и ссылкой на лицензию Qwen.

AgentionAI Signal 3.8 Flash Next — это дообученная версия Qwen3.8-Flash-Next в формате GGUF, настроенная на более короткие ответы и эффективное рассуждение. В основе — мультимодальная разреженная MoE-модель на 177 млрд параметров с поддержкой изображений и диалога; сохранены vision encoder и голова multi-token prediction базовой модели. Репозиторий содержит варианты F16, IQ4, Q4_K и Q8. Модель предназначена для диалога, анализа изображений, решения математических задач и агентного программирования. По данным разработчика, на MATH-500 она использовала меньше токенов рассуждения и показала более высокий результат, а на Terminal-Bench 2.0 быстрее выполняла задачи программного агента. Самостоятельное тестирование разработчика ограничено небольшими выборками и единичными запусками на Terminal-Bench; на задачах, требующих длительного перебора вариантов, модель может исчерпать бюджет рассуждений раньше базовой. Модель обучена методом самодистилляции на ответах самой Qwen3.8-Flash-Next, настроенных на прямой стиль. Для запуска автор рекомендует llama.cpp и приводит контекст 65 536 токенов. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

MiniMaxAI/SynLogic-Mix-3-32B — языковая модель MiniMaxAI для многоэтапных рассуждений в логике, математике и программировании. Она основана на Qwen2.5-32B-Base и дообучена методом Zero-RL на смеси проверяемых задач: логике из SynLogic, математике и коде. Веса имеют плотную архитектуру Qwen2, размер модели — 32 млрд параметров, максимальный контекст — 131 072 токена. Модель генерирует текст; карточка указывает поддержку английского языка и интерфейс для диалога и вызова инструментов. По описанию автора, модель обучалась без этапа instruction tuning, только с подкреплением от базовой модели. Приведённые результаты охватывают бенчмарки логического рассуждения, математики, программирования и общих знаний; автор сообщает об улучшениях при добавлении логических данных. Это специализированный чекпойнт для задач рассуждения, а README не приводит полную таблицу результатов для этой версии. Лицензия — MIT.

Карточка модели unsloth/DeepSeek-R1-Distill-Llama-70B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

ChuckMcSneed/dolphin-2.9.1-dbrx-llamacppfixed — исправленная копия Dolphin 2.9.1 DBRX от Cognitive Computations с исправлениями для конвертации в GGUF через llama.cpp. Базовая модель — databricks/dbrx-base; Dolphin дообучена полным fine-tuning на последовательностях длиной 4 тыс. токенов, хотя базовая модель поддерживает контекст 32 тыс. токенов. Используется архитектура DBRX и шаблон диалога ChatML. Модель предназначена для диалогов с ассистентом, следования инструкциям, программирования, решения математических задач, вызова функций и первоначальных агентных сценариев. README отмечает её высокую готовность отвечать на запросы, в том числе вредоносные, а также посредственное качество письма и возможное снижение качества при квантовании. Для применения в сервисах автор рекомендует добавить собственный слой выравнивания. В README указаны лицензия databricks-open-model-license для базовой модели и разрешение на использование Dolphin, включая коммерческое, в рамках лицензии Meta Llama 3; точные условия для этой исправленной копии следует сверять с лицензией репозитория.

Eurus-70B-SFT — большая языковая модель OpenBMB, дообученная для рассуждений на основе CodeLLaMA-70B. Модель содержит 68,7 млрд параметров, использует плотную архитектуру LLaMA и принимает контекст до 16 384 токенов. Она обучена на корректных действиях из UltraInteract с небольшой примесью примеров UltraChat, ShareGPT и OpenOrca. Модель предназначена для диалогов и решения задач, требующих пошаговых рассуждений, в том числе математических и связанных с программированием. Для кода и математики авторы рекомендуют специальные шаблоны запросов, согласованные с форматами обучающих данных. В README заявлены высокие результаты на сравнительных оценках, но подробные результаты в карточке не приведены. Модель распространяется в формате safetensors по лицензии Apache 2.0.

GPT-5.2 Pro — модель OpenAI, представленная как развитие GPT-5 Pro с улучшениями в агентном программировании и работе с длинным контекстом. Она предназначена для сложных задач, требующих пошаговых рассуждений, включая программирование и сценарии с использованием ИИ-агентов. Данных об архитектуре, размере, модальностях, поддерживаемых языках, длине контекста и лицензии в предоставленных источниках нет.

Guru-7B — модель генерации текста на базе Qwen2.5-7B, представленная авторами работы «Revisiting Reinforcement Learning for LLM Reasoning from A Cross-Domain Perspective». Она предназначена для диалоговых сценариев и решения задач рассуждения в разных областях, включая математику и программирование. В опубликованных результатах приведены оценки на AIME24 и MATH500 для математики, а также LiveCodeBench для кода. Модель имеет плотную архитектуру Qwen2 и содержит 7,1 млрд параметров. Метаданные указывают контекст до 131 072 токенов, поддержку чата и интерфейса вызова инструментов; формат весов — safetensors, для работы заявлена библиотека Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. README приводит результаты отдельных бенчмарков, однако они не гарантируют качество на других задачах.

Карточка модели mingjun2026/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Llama-3_1-Nemotron-51B-Instruct — разработанная NVIDIA языковая модель для диалогов и генерации текста. Это производная Llama-3.1-70B-Instruct: NVIDIA применила поиск архитектуры NAS и дистилляцию, чтобы повысить эффективность инференса и сократить требования к памяти при небольшом снижении качества. По метаданным, модель содержит 87 млрд параметров и поддерживает контекст до 131 072 токенов; в описании дистилляции указана длина последовательности 8 192 токена. Модель предназначена для англоязычных одно- и многоходовых диалогов общего назначения, а также задач, связанных с кодом; README отмечает поддержку других языков, но не перечисляет их. Она принимает и выдаёт текст, поддерживает чат и интерфейс вызова инструментов. Архитектура — авторегрессионный трансформер-декодер с неодинаковыми блоками: переменным числом KV-голов, пропуском или упрощением внимания и переменным коэффициентом расширения FFN. NVIDIA указывает, что модель оптимизирована для высокопроизводительного запуска на одной H100 80 ГБ; для BF16 README приводит требования в две H100 80 ГБ или две A100 80 ГБ. Модель подходит для коммерческого применения согласно README. Метаданные указывают лицензию other, поэтому перед использованием следует ознакомиться с условиями NVIDIA. Модель может выдавать неточные, нерелевантные или токсичные ответы, отражать смещения обучающих данных и быть уязвимой к атакам на выравнивание; разработчик рекомендует применять защитные механизмы.

MiMo-Ornith-9B-AGSI-Abliterated-HQ — объединённая модель на 9,7 млрд параметров, созданная OliviaRossi на основе Xiaomi MiMo-V2.6-Distill-Qwen-9B и Ornith-1.5-9B. В карточке заявлены слияние AGSI и настройка Abliterix, направленная на удаление механизмов отказа. Архитектура — Qwen3_5ForConditionalGeneration с сочетанием линейного внимания GatedDeltaNet и обычного внимания; модель содержит 32 слоя и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, рассуждений, программирования и агентных сценариев с вызовом инструментов и выполнением терминальных команд. Автор заявляет поддержку английского и китайского языков, а также сохранение возможностей рассуждения и работы с инструментами после слияния. Репозиторий использует формат safetensors; лицензия — Apache-2.0. Карточка заявляет удаление встроенных механизмов отказа, поэтому модель может отвечать на запросы в областях безопасности и администрирования без обычных ограничений отказа. Эти сведения и характеристики AGSI/Abliterix приведены автором и не сопровождаются в предоставленной карточке независимой проверкой; фактическое качество и безопасность ответов могут зависеть от сценария использования.

Nail-Qwen3.6-35B-A3B-MLX — вариант модели Qwen3.6-35B-A3B, опубликованный пользователем peculiar-ragdoll. Это квантованная сборка для MLX на базе Unsloth Dynamic 4-bit quant, дополненная исправленным шаблоном чата, который добавляет инструкции для кратких и прямых ответов. Модель ориентирована на локальный запуск на компьютерах Mac с Apple Silicon. Модель предназначена для рассуждений, многошаговых диалогов, агентной разработки программного обеспечения и работы в coding-агентах. Она поддерживает текстовые и, согласно метаданным pipeline, мультимодальные сценарии image-text-to-text, однако подробности о фактически поддерживаемых визуальных входах в README не приведены. Заявлены английский и китайский языки, архитектура Mixture-of-Experts и контекст до 262 144 токенов. При использовании 8-битной точности KV-кэша заявлен запуск примерно в 24 ГБ оперативной памяти; также описана работа на системах с 32 ГБ unified memory. Сильные стороны модели — высокая скорость получения ответа, эффективность по расходу токенов и пригодность для автономных задач программной инженерии и длительных многоходовых взаимодействий. Ограничение заключается в том, что модель может тратить больше токенов на внутреннее рассуждение, чем некоторые альтернативы, из-за чего быстрее заполняет контекст; для очень длинных сессий это снижает выносливость. Приведённые в README результаты основаны на авторских тестах и не заменяют независимую оценку. Модель распространяется по лицензии Apache-2.0.

NeoHorse-1-9B-MLX — версия для локального запуска на Apple Silicon модели NeoHorse-1-9B, разработанной TokenRhythm. Это плотная авторегрессионная языковая модель семейства Qwen3.5 с 7,2 млрд параметров, предназначенная для диалогов, программирования, рассуждений, следования инструкциям и работы с инструментами в агентных сценариях. Контекстное окно составляет 262 144 токена. Веса представлены в BF16 и адаптированы для MLX-LM: изменены имена и раскладка тензоров, а также представление нормализации; квантизация не применялась. Модель можно запускать локально через MLX-LM, в том числе как OpenAI-совместимый сервер с поддержкой вызова инструментов. В README указаны результаты исходной NeoHorse-1-9B на наборах тестов, но отдельная оценка этой MLX-версии не приводится. Модель предназначена для Apple Silicon и использует лицензию Apache-2.0. Ограничения: результаты исходной модели не подтверждают идентичное качество этой версии; для запуска требуется совместимая среда MLX-LM на Mac с Apple Silicon.

bartowski/openbuddy-qwen2.5coder-32b-v24.1q-200k-GGUF — это набор GGUF-квантизаций модели OpenBuddy/openbuddy-qwen2.5coder-32b-v24.1q-200k, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и кода, включая локальный запуск через llama.cpp и LM Studio. Доступен специальный формат промптов с ролями system, user и assistant. Модель содержит 32 млрд параметров, поддерживает контекст до 200 тысяч токенов и относится к семейству Qwen2.5-Coder. В README указана поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и финского языков. Это текстовая модель без заявленной поддержки изображений или других мультимодальных входов. Доступны варианты от F16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3; они позволяют выбирать баланс между качеством, размером файлов и требованиями к памяти. Наиболее качественными названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и варианты Q4_K. Сильные стороны модели — большой контекст, специализация исходной модели на коде, широкий выбор квантизаций и возможность локального запуска. Ограничения включают значительные требования к памяти для 32-миллиардной модели, а более сильная квантизация может снижать качество. Некоторые варианты оптимизированы для ARM и требуют определённых инструкций процессора; варианты Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 не рекомендуется использовать на Mac. Модель распространяется по лицензии Apache-2.0.

Ornith-1.5-27B-A3B-CoderX-MTP-GGUF — квантизированная GGUF-версия модели Ornith-1.5-27B-A3B-CoderX, разработанная ManniX-ITA. Модель предназначена прежде всего для генерации и анализа кода, рассуждений и текстовых задач; в метаданных также заявлена поддержка vision-сценариев. Указанный язык — английский. Модель использует архитектуру Qwen3.5-MoE с 25,6 млрд параметров, из которых активно используется около 3 млрд. В составе 184 эксперта, из них выбираются 8; конфигурация включает 40 основных блоков и один слой MTP (Multi-Token Prediction). Доступны веса F16 и многочисленные варианты квантизации от Q8_0 до IQ2_XS, а также отдельный vision projector. Заявлен контекст до 262 144 токенов в примере запуска через llama.cpp. Сильные стороны модели — MoE-архитектура с небольшим числом активных параметров, поддержка рассуждений, кода, MTP и vision, а также квантизация с importance matrix, рассчитанной специально для этой версии. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут заметно терять качество, а F16 и старшие кванты требуют значительного объёма памяти. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска в совместимом окружении, включая llama.cpp.

cyankiwi/Ornith-1.5-9B-AWQ-INT4 — квантизированная версия Ornith-1.5-9B, разработанной командой Ornith AI и опубликованной пользователем cyankiwi. Это плотная языковая модель примерно на 9 млрд параметров для генерации текста, ориентированная на эффективное развёртывание на одной GPU; заявлена также возможность запуска на периферийных устройствах в отдельной мобильной версии. Данная сборка использует квантизацию AWQ с точностью INT4 и имеет размер около 8,99 ГБ. Модель предназначена для программирования, агентских сценариев, решения STEM-задач и общего текстового вывода. В карточке указана калибровка на данных STEM and Agentic, а среди поддерживаемых языков перечислены английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Архитектура мультимодальности и размер контекстного окна не указаны. К сильным сторонам относятся компактность, возможность эффективного локального запуска и результаты, приведённые для задач работы с терминалом и кодом. К ограничениям относятся возможные потери качества из-за INT4-квантизации, а также отсутствие в предоставленных данных подробных сведений о контекстном окне, фактической производительности на разных устройствах и ограничениях применения. Модель распространяется по лицензии MIT.

Qwen2.5-Coder-3B-Instruct-AWQ — языковая модель для генерации текста и программного кода, разработанная командой Qwen. Она предназначена для генерации, анализа, рассуждений и исправления кода, а также для создания кодовых агентов и решения задач, где требуются математические и общие языковые способности. Модель является instruction-tuned версией Qwen2.5-Coder-3B и поддерживает диалоговый формат взаимодействия. Модель представляет собой causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Она содержит 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, 36 слоёв и механизм GQA с 16 головами для Q и 2 для KV. Максимальная длина контекста составляет 32 768 токенов. Данная версия использует 4-битную AWQ-квантизацию, что снижает требования к памяти, но может повлиять на точность по сравнению с полноразмерной версией. В README явно указан английский язык; модальность — текстовая. Сильными сторонами модели являются специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сочетание кодовых, математических и общих языковых возможностей. Для работы рекомендуется актуальная версия библиотеки Transformers; версия ниже 4.37.0 может быть несовместима. Модель распространяется по лицензии Qwen Research, точные условия которой приведены в указанном файле лицензии.

QuantFactory/Qwen2.5-Coder-7B-Instruct-GGUF — квантизированная версия инструкционно дообученной модели Qwen2.5-Coder-7B-Instruct, созданная QuantFactory на основе обновлённых весов от 6 ноября 2024 года с использованием llama.cpp. Исходная модель относится к семейству специализированных языковых моделей Qwen для работы с кодом, разработанному командой Qwen; базовая модель указана как Qwen/Qwen2.5-Coder-7B. Модель предназначена для генерации, анализа, исправления и рассуждений по программному коду, а также для диалоговых сценариев и создания кодовых агентов. Она сохраняет возможности в математике и общих задачах. Модель поддерживает текстовый ввод и вывод, относится к causal language models и рассчитана на английский язык согласно метаданным карточки. Архитектура включает RoPE, SwiGLU, RMSNorm и смещения в QKV-внимании; используется Grouped Query Attention с 28 головами для Q и 4 для KV. Размер модели — 7,61 млрд параметров, из них 6,53 млрд без учёта embedding, число слоёв — 28. Заявленная максимальная длина контекста составляет 131 072 токена, однако конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах. Квантизация и формат GGUF ориентированы на запуск через llama.cpp и могут уменьшать требования к памяти по сравнению с полной версией, но конкретные характеристики зависят от варианта квантизации, который в карточке не указан. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-GGUF — инструкционно дообученная языковая модель для генерации текста и программного кода из семейства Qwen2.5-Coder, разработанного командой Qwen компании Alibaba Cloud. Она предназначена для генерации, анализа и исправления кода, рассуждений о программировании, создания code agents, а также для задач, где требуется сочетание навыков работы с кодом, математикой и общими текстовыми запросами. Модель поддерживает английский язык; README не подтверждает поддержку других языков. Модель представляет собой causal language model в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в Attention QKV. Она содержит 7,61 млрд параметров, из них 6,53 млрд без учёта embedding, 28 слоёв и механизм GQA с 28 головами для Q и 4 для KV. Полная длина контекста этой GGUF-версии — 32 768 токенов. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, поддержка локального запуска через llama.cpp и несколько вариантов квантования. Ограничение GGUF-версии — контекст 32 768 токенов; заявленное расширение до 131 072 токенов с YARN относится к другим условиям и, согласно README, требует vLLM и не-GGUF моделей. Лицензия — Apache 2.0.

Qwen3.5-9B-sdpo-react-mathcodesearch-grpo-arm-e-step29 — это дообученная модель ipfipfipf на базе Qwen/Qwen3.5-9B. Она предназначена для диалоговой работы с математическими и программными задачами, а также для многошаговых сценариев поиска с вызовом инструментов в стиле ReAct. Модель обучалась методом GRPO с SDPO; опубликован шаг 29, выбранный авторами как лучший по их кривой обучения. Это текстовая языковая модель на 9 млрд параметров с архитектурой семейства Qwen3.5; репозиторий содержит веса Safetensors и рассчитан на Transformers. Хотя конфигурация сохраняет класс Qwen3_5ForConditionalGeneration, при экспорте удалена башня зрения базовой модели, поэтому изображения модель не принимает. README приводит результаты на математических и кодовых тестах, однако ограничивает их сравнительную интерпретацию: для AMO-Bench часть ответов обрезалась из-за лимита генерации в 16 384 токена, а качество может снижаться при продолжении обучения после шага 29. Лицензия — Apache-2.0.

Qwen3.6-27B-Uncensored-Heretic-DSV4Pro-GLM52-SFT-GPT55-RL-Coding-VL-MTP-GGUF — экспериментальная модель в формате GGUF, опубликованная nerkyor на основе Merkyor/Qwen3.6-27B-DSV4Pro-Thinking-Distill и производной от Qwen3.6-27B DSV4Pro / GLM-5.2 SFT / GPT-5.5 RL Coding. Это плотная модель с 27 млрд параметров, ориентированная прежде всего на программирование, рассуждения, диалог и исследование снижения склонности к отказам. Заявлены поддержка английского и китайского языков, а также мультимодальный сценарий image-text-to-text через отдельный vision-language projector. Основной GGUF-файл предназначен для генерации текста и является единственным обязательным артефактом. Дополнительный mmproj подключает обработку изображений, а MTP draft GGUF может использоваться как боковая модель для speculative decoding. Доступны варианты квантования от Q3 до Q8 и исходный BF16; конкретный контекст в предоставленных данных не указан, однако для некоторых тестов упоминается режим 32K. Модель демонстрирует сильные результаты на MMLU, GPQA и LiveCodeBench: для варианта Q8 указаны 91,2% на MMLU500, 85,35% на GPQA198 и 81/100 на LCB100. Все заявленные GGUF-варианты показали нулевой показатель жёстких отказов на 140 тестовых запросах, но это исследовательский прокси, а не подтверждение безопасности или универсальной корректности. Ограничениями являются экспериментальный характер, возможные ошибки и зависимость качества от уровня квантования; модель не предназначена для неконтролируемой высокорисковой автоматизации. Лицензия указана как other, без дополнительных условий в предоставленной карточке.

rico03/Qwen3.8-27B-Claude-Opus-Reasoning-Distilled-GGUF — набор GGUF-квантизаций модели, разработанный пользователем rico03 на базе Qwen/Qwen3.8-27B. Модель дообучена методом LoRA с использованием Unsloth и дистиллирована на рассуждениях и ответах Claude Opus 4.6/4.7. Лицензия — Apache-2.0. Модель предназначена для генерации текста и задач, требующих развитого пошагового рассуждения. Она использует плотную архитектуру на 27 млрд параметров с гибридным сочетанием полной и линейной attention-механики Gated DeltaNet, а также Multi-Token Prediction (MTP) head. Базовая Qwen3.8-27B является мультимодальной vision-language моделью, однако дообучение затрагивало только текстовый путь; зрительная часть сохранена без изменений. В README заявлен английский язык, размер контекста не указан. Доступны варианты от F16 до Q4_K_M, что позволяет выбирать между качеством, размером и требованиями к памяти. MTP поддерживает само-спекулятивное декодирование и, по приведённым замерам на H100 NVL, может ускорять генерацию примерно в 1,6 раза без изменения распределения выходов. Ограничения модели включают неполностью скомпоновавшееся дообучение: это проверочный запуск на 150 шагах, а не полностью сходимая fine-tune-версия. Кроме того, значительная часть обучающих рассуждений была реконструирована отдельной моделью, а не взята из внутреннего процесса Claude Opus. Для работы требуется свежая сборка llama.cpp с поддержкой гибридной архитектуры Gated DeltaNet и MTP; старые версии могут не загрузить модель корректно.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-6Bit — это 6-битная версия модели семейства Qwen3.8 с 27 млрд параметров, основанная на модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Оригинальную модель и объединение весов GAIN разработал DavidAU, а квантование, интеграцию MTP и упаковку для Apple MLX выполнила Solstice-AI. В карточке заявлена поддержка английского и китайского языков, а также формат image-text-to-text, однако подробности о фактических мультимодальных возможностях не приведены. Модель предназначена для рассуждений, программирования, агентных задач, отладки репозиториев, следования сложным инструкциям и длительных рабочих процессов. Она использует гибридную архитектуру Qwen 3.8: около 75% слоёв составляют блоки Gated Delta Recurrent Network с линейным вниманием, а около 25% — блоки Grouped-Query Attention. Заявлен контекст до 262 144 токенов. Квантование выполнено в 6 бит с affine scaling и group_size 64; заявленный объём памяти составляет около 21,85 ГБ, что ориентирует модель на Mac с Apple Silicon и унифицированной памятью от 32 ГБ. К сильным сторонам относятся встроенный 15-тензорный модуль Multi-Token Prediction, совместимость с DSpark speculative decoding и заявленное ускорение генерации до 22–52 токенов в секунду на Apple Silicon. README также сообщает о высоких результатах в SWE-bench Pro, LiveCodeBench, OSWorld, AndroidWorld, ARC и других тестах, включая превосходство над Claude Opus 4.6 Max, но эти утверждения следует воспринимать как результаты, заявленные авторами карточки. Возможные ограничения — высокая потребность в памяти, привязка оптимизаций к Apple MLX и отсутствие независимой верификации приведённых сравнений. Указанная лицензия — Apache 2.0.

Qwen3.8-9B-Coder — компактная кодовая языковая модель, разработанная Empero на основе дистилляции Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B. LisyNeko выполнил дообучение для задач программирования и восстановил поддержку изображений с помощью vision-проектора. Модель перепакована nullsumlabs в формате GGUF для совместимости с LM Studio, llama.cpp и Ollama. Модель предназначена для генерации, исправления и рефакторинга кода, объяснения ошибок, решения математических и логических задач, следования инструкциям и вызова функций. Поддерживает текстовый и графический ввод, заявленный язык — английский. Нативное контекстное окно составляет 262 144 токена. Архитектура qwen35 представляет собой гибридную causal language model с чередованием Linear SSM/Gated DeltaNet и Gated Attention, 33 блоками, grouped-query attention и встроенным multi-token prediction. Доступная сборка Q4_K_M занимает около 5,8 ГБ, а vision-проектор в формате BF16 — около 879 МБ. Сильными сторонами являются специализация на программировании, дистиллированные трассы рассуждений, поддержка function calling, большой контекст и возможность работы с изображениями. Ограничения включают зависимость от GGUF-совместимых приложений вместо стандартного Transformers pipeline, необходимость отдельного vision-проектора для обработки изображений и возможные потери качества из-за квантования Q4_K_M. Модель распространяется по лицензии Apache-2.0.

Salience-27B-R6-GGUF — это квантизированная версия мультимодальной модели Salience-27B-R6, разработанной vectionlabs и опубликованной в формате GGUF пользователем bartowski. Модель содержит около 28 млрд параметров и предназначена для запуска через llama.cpp. Она поддерживает текстовый и визуальный ввод; для работы с изображениями требуется дополнительный файл mmproj. Модель ориентирована на рассуждения, эффективное пошаговое мышление, следование инструкциям, программирование и задачи software engineering. Заявлена поддержка агентных сценариев, терминального взаимодействия, tool use и function calling. Также доступны speculative decoding с использованием MTP и квантизация с imatrix. Указан английский язык, однако точные сведения о размере контекстного окна и внутренней архитектуре в предоставленных данных отсутствуют. Репозиторий предлагает варианты от BF16 и Q8_0 до компактных IQ3 и Q3, что позволяет выбирать между качеством, скоростью и требованиями к памяти. В качестве универсального варианта рекомендован Q4_K_M размером около 17,44 ГБ; более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти. Ограничениями являются необходимость совместимого рантайма llama.cpp, отдельного mmproj для изображений и отсутствие в предоставленной карточке подробных результатов оценки. Лицензия модели — Apache-2.0.

Viper-Coder-v1.1 — дообученная prithivMLmods 14-миллиардная языковая модель семейства Qwen2 для генерации кода и решения задач рассуждения. В карточке указана архитектура Qwen 2.5 14B, а метаданные определяют архитектуру как Qwen2ForCausalLM; модель распространяется в формате safetensors и использует библиотеку Transformers. Она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для написания и отладки кода, решения алгоритмических и математических задач, следования инструкциям, работы со структурированными данными и создания технической документации. README заявляет контекст до 128K токенов и генерацию до 8K токенов, однако метаданные указывают нативный контекст 32768 токенов. Заявлены поддержка программирования на Python, JavaScript, C++, Java, SQL и других языках, а также документации на 29+ естественных языках; языковые теги карточки — английский и китайский. Модель содержит 14 млрд параметров, поэтому для инференса требуются значительные вычислительные ресурсы. Возможны ошибки в длинных ответах, чувствительность к формулировке запроса и неодинаковое качество для разных языков программирования; модель не располагает актуальными данными из интернета. Лицензия — Apache-2.0.

CodeQwen1.5-7B-Chat-GGUF — специализированная языковая модель для работы с программным кодом, основанная на Qwen1.5 и разработанная командой Qwen. Это трансформерная decoder-only модель, предварительно обученная на примерно 3 триллионах токенов кода. Представленная версия распространяется в формате GGUF с несколькими уровнями квантования, включая q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать баланс между качеством, размером файла и требованиями к ресурсам. Модель предназначена для генерации и понимания кода, исправления ошибок, задач text-to-SQL и диалогового взаимодействия по вопросам программирования. Она поддерживает контекст длиной до 64K токенов, 92 языка программирования и использует Group Query Attention (GQA) для более эффективного вывода. К сильным сторонам относятся специализация на коде, заявленная конкурентоспособность на ряде бенчмарков и поддержка длинного контекста. Ограничения включают зависимость качества и скорости от выбранного уровня квантования, а также необходимость запуска через совместимое программное обеспечение, например llama.cpp. Модель распространяется по лицензии tongyi-qianwen; точные условия следует уточнять в файле лицензии репозитория.