II.2Создание и понимание программного кода

Qwen2.5-Coder-7B-Q8_0-GGUF — это преобразованная в формат GGUF версия языковой модели Qwen/Qwen2.5-Coder-7B. Конвертацию выполнила организация ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и, прежде всего, работы с исходным кодом и другими задачами программирования. Модель содержит 7 млрд параметров и доступна в варианте квантования Q8_0, что позволяет использовать её через llama.cpp. В карточке указана поддержка английского языка; модальность — текстовая. Модель можно запускать локально через llama-cli или предоставлять к ней доступ по API через llama-server. В примере запуска серверу задаётся контекст размером 2048 токенов, однако это значение является параметром запуска и не обязательно отражает максимальный контекст модели. К сильным сторонам относятся специализация на коде, совместимость с llama.cpp и возможность локального запуска в GGUF-формате. Ограничения и результаты сравнительных оценок в README не указаны, поэтому нельзя сделать выводы о качестве на конкретных языках программирования, производительности или требованиях к оборудованию. Модель распространяется по лицензии Apache 2.0.

Jongbin разработал эту разговорную языковую модель дообучением Qwen/Qwen2.5-Coder-7B-Instruct с помощью TRL. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров; она предназначена для генерации текста в формате диалога. Пример в карточке показывает ответ на вопрос общего характера, а базовая модель ориентирована на генерацию, анализ и исправление программного кода. Модель принимает текст и выдаёт текст. Нативная длина контекста составляет 32 768 токенов; для запуска описан Transformers pipeline. Лицензия в предоставленных данных не указана.

Agnuxo публикует эту модель как локального помощника для генерации кода на основе Qwen2 7B Instruct. Это плотная языковая модель примерно с 7 млрд параметров, распространяемая в формате GGUF с точностью F16; метаданные указывают поддержку чата и генерации текста. Карточка заявляет работу с Python, JavaScript, TypeScript, Rust, Go и C++, а также с научными вычислениями и библиотеками машинного обучения. Модель предназначена для генерации и помощи при написании кода, включая научные вычисления и задачи машинного обучения; её можно запускать локально через Ollama или Transformers. В метаданных указаны английский и испанский языки, а лицензия — Apache-2.0. Заявления карточки о наградах и сравнительном качестве не подтверждают независимые результаты оценки; параметры контекстного окна и конкретные показатели качества не приводятся.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill — плотная языковая модель на 14 млрд параметров, дообученная TeichAI на наборе примеров рассуждений Claude Opus 4.5 с высоким уровнем reasoning. Она основана на unsloth/Qwen3-14B и предназначена для генерации текста в диалогах, задач программирования, науки и общего назначения. Модель принимает текст и генерирует текст; заявленный контекст составляет 40 960 токенов. В карточке не указаны поддерживаемые естественные языки. Модель опубликована в формате safetensors, поддерживает чат и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Valiant Labs разработала Esper 3 — дообученную на базе Qwen3-14B языковую модель для рассуждений, особенно в программировании, проектировании архитектуры и DevOps. Она также предназначена для общего решения задач, творческих рассуждений и диалогов. Модель использует архитектуру Qwen3 dense с 14 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. Для диалогов рекомендуется включать режим рассуждений через параметр enable_thinking=True. Модель ориентирована на разработчиков и инженеров: может помогать с кодом, скриптами, облачной инфраструктурой и DevOps-задачами, а также отвечать на общие вопросы. Карточка описывает её как открытую модель; лицензия Apache-2.0. README не приводит оценок качества или подробностей о датасетах обучения, кроме указания, что данные для рассуждений и кода были сгенерированы с помощью DeepSeek R1.

geoffmunn/Qwen3-14B-f16 — версия модели Qwen3-14B в формате GGUF F16, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения. Это языковая модель на 14 млрд параметров для диалогов, следования инструкциям, рассуждений, генерации кода и работы с многоязычным текстом. Карточка описывает варианты квантования, но этот репозиторий содержит веса F16. Модель подходит для локальных ассистентов, генерации и отладки кода, ответов по документам в RAG-системах и многошаговых задач. Метаданные указывают поддержку английского, китайского, испанского, французского, немецкого, русского, арабского, японского, корейского и хинди. Указана лицензия Apache-2.0. Размер модели составляет 14 млрд параметров. README заявляет о работе с длинными входами, но точную длину контекста не приводит. Для локального запуска требуются ресурсы, соответствующие размеру модели; потребление памяти и скорость зависят от формата весов и оборудования. Приведённые в карточке оценки квантованных вариантов не следует напрямую переносить на F16.

Qwen3-30B-A3B-Base — базовая языковая модель семейства Qwen3, опубликованная Unsloth на Hugging Face на основе Qwen/Qwen3-30B-A3B-Base. Это причинная MoE-модель для генерации и продолжения текста, в том числе как основа для дообучения под конкретные задачи. В README указано 30,5 млрд параметров всего и 3,3 млрд активируемых параметров; архитектура включает 48 слоёв, 128 экспертов и 8 активируемых экспертов. Контекст — 32 768 токенов. Модель обучалась на корпусе Qwen3 с данными по 119 языкам, включая программирование, STEM, рассуждения и книги. Она рассчитана на многоязычную генерацию, рассуждения, работу с кодом и длинными текстовыми контекстами. Для запуска рекомендуется актуальная версия Transformers: версии ниже 4.51.0 могут не распознавать архитектуру qwen3_moe. Лицензия — Apache-2.0.

Qwen3-30B-A3B-Thinking-2507-AWQ-4bit — это 4-битно квантованная версия модели Qwen3-30B-A3B-Thinking-2507, опубликованная пользователем cyankiwi на Hugging Face и основанная на модели Qwen от команды Qwen. Это каузальная языковая модель для генерации текста, ориентированная на сложные задачи рассуждения, включая логику, математику, естественные науки, программирование, академические задания, следование инструкциям и использование инструментов. Модель построена по архитектуре Mixture-of-Experts: всего 30,5 млрд параметров, из которых при обработке токена активируется около 3,3 млрд; используется 128 экспертов, 8 активных экспертов, 48 слоёв и GQA с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена. Поддерживается только режим размышления, причём шаблон чата автоматически добавляет соответствующий маркер. Модель предназначена для текстовых задач; конкретный набор поддерживаемых языков в README не указан. К сильным сторонам относятся улучшенные результаты в рассуждении, кодировании, работе с инструментами, обобщённых задачах и обработке длинного контекста; в README также приведены высокие показатели на ряде математических, кодовых и агентских бенчмарков. Ограничение — обязательный режим размышления и потенциально большая длина вывода, что может повышать требования к ресурсам и задержку. Для запуска рекомендуется актуальная версия Transformers, а также совместимы SGLang и vLLM. Базовая модель распространяется по лицензии Apache-2.0; отдельная лицензия квантованной версии в README не указана.

Карточка модели inference-optimization/Qwen3-30B-A3B-Thinking-2507-REAP-25-nonuniform на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Thinking-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

DavidAU/Qwen3-42B-A3B-2507-Thinking-Abliterated-uncensored-TOTAL-RECALL-v2-Medium-MASTER-CODER — текстовая генеративная модель для программирования, рассуждений, диалога и творческих задач. Она основана на дообученной модели huihui-ai/Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated и включает адаптер Brainstorm 20x; в README заявлена архитектура MoE с 42 млрд параметров, 67 слоями и 8 активируемыми экспертами. Метаданные относят её к семейству Qwen3 MoE, указывают 3,5 млрд параметров и контекст до 262 144 токенов. Модель предназначена прежде всего для генерации и анализа кода на популярных и менее распространённых языках программирования, а также для диалогов, задач на рассуждение и творческого письма. README характеризует её как abliterated и uncensored: модель реже отказывает в запросах на откровенный контент, но для желаемого уровня подробности может потребоваться явное направление в промпте. Указаны английский, французский, китайский и немецкий языки; README также заявляет широкий охват языков программирования. Репозиторий содержит веса Safetensors для использования с Transformers и последующей конвертации. Лицензия — Apache-2.0.

Valiant Labs разработала Esper 3 на базе Qwen3-4B и дообучила модель на данных для рассуждений о DevOps, архитектуре систем и программировании, сгенерированных с помощью DeepSeek R1. Модель предназначена для генерации кода, решения инженерных задач и диалогов; авторы также заявляют об улучшениях в общих и творческих рассуждениях. Она подходит для локального запуска на компьютерах и мобильных устройствах, а также для серверного инференса. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 40 960 токенов; для диалога используется формат промптов Qwen 3, а авторы рекомендуют включать режим рассуждений. Модель обрабатывает текст и генерирует текст. В карточке заявлена поддержка английского языка; специализация — код, DevOps и архитектурные задачи. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Заявления о качестве и скорости приведены авторами; независимые оценки в карточке не описаны.

Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, представленная в репозитории Unsloth как вариант исходной Qwen/Qwen3-4B-Instruct-2507. Она предназначена для диалогов и следования инструкциям, рассуждений, понимания текста, математики, естественных наук, программирования и использования инструментов. Модель работает только в режиме без явного пошагового рассуждения и поддерживает вызов инструментов через соответствующий интерфейс. В модели около 3,7 млрд параметров; архитектура — Qwen3ForCausalLM, формат весов — safetensors. Нативная длина контекста составляет 262 144 токена. Карточка заявляет улучшенные многоязычные возможности, но не перечисляет конкретные языки. Модель выпущена под лицензией Apache-2.0. Веса доступны для применения в задачах генерации текста и построения диалоговых и агентных систем.

shatu/Qwen3.5-27B — публикация Шашанка, содержащая веса и конфигурацию Qwen3.5-27B в формате Transformers. По README, веса идентичны Qwen/Qwen3.5-27B, а изменённый шаблон чата сохраняет промежуточные рассуждения между ходами диалога. Это мультимодальная причинная языковая модель с визуальным энкодером: плотная архитектура Qwen3.5 объединяет Gated Delta Networks и разреженные блоки внимания. В модели 27 млрд параметров и 64 слоя; нативный контекст — 262 144 токена, с расширением до 1 010 000 токенов. Модель предназначена для диалогов, анализа изображений, рассуждений, программирования и сценариев с вызовом инструментов. Она поддерживает 201 язык и диалект согласно README. Репозиторий использует safetensors и совместим с Transformers и рядом движков инференса. Лицензия — Apache-2.0. Это изменённая публикация существующих весов, а не новое обучение; качество и поведение шаблона зависят от используемого движка и его совместимости с Qwen3.5.

Qwen3.5-35B-A3B-GGUF — это квантизированная GGUF-версия мультимодальной модели Qwen3.5-35B-A3B, разработанной командой Qwen. Репозиторий подготовлен ugreen-ai с использованием материалов и методов Unsloth. Модель предназначена для локального запуска и совместима с инструментами экосистемы GGUF; исходная модель также поддерживает Transformers, vLLM, SGLang и KTransformers. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает работу с текстом и изображениями. Архитектура сочетает Gated Delta Networks и разреженный Mixture-of-Experts. Всего модель содержит 35 млрд параметров, из которых активируется около 3 млрд; указаны 40 слоёв, hidden dimension 2048 и словарь размером 248 320 токенов. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на рассуждения, программирование, визуальное понимание, агентские сценарии, вызов инструментов и задачи с длинным контекстом, однако точный максимальный размер контекста для этой версии в README не указан. К сильным сторонам относятся мультимодальность, высокая вычислительная эффективность разреженной MoE-архитектуры, улучшенные возможности coding и tool calling, а также обновлённые данные и алгоритм квантования Unsloth Dynamic 2.0. GGUF-квантизация упрощает локальный запуск и снижает требования к ресурсам, но конкретные характеристики зависят от выбранного варианта квантизации и могут сопровождаться потерей точности по сравнению с исходными весами. Для управления режимом рассуждений предусмотрена настройка enable_thinking. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-397B-A17B-GGUF — квантованная версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen; GGUF-файлы подготовлены Unsloth. Модель предназначена для локального запуска и совместима с экосистемами, поддерживающими GGUF, а исходная модель также работает с Hugging Face Transformers, vLLM и SGLang. Это каузальная языковая модель с vision encoder для работы с текстом и изображениями. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts: всего 397 млрд параметров, из которых активируется 17 млрд; используется 512 экспертов, 10 маршрутизируемых и один общий. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на рассуждения, программирование, визуальное понимание, диалоговые и агентские сценарии, а также обработку длинного контекста. К сильным сторонам относятся мультимодальность, высокая вычислительная эффективность разреженной архитектуры, поддержка длинного контекста и улучшенная квантование с imatrix-данными Unsloth. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к памяти и инфраструктуре; конкретные требования зависят от выбранного уровня квантования. Доступна по лицензии Apache 2.0.

DavidAU/Qwen3-53B-A3B-2507-TOTAL-RECALL-v2-MASTER-CODER — дообученная на базе Qwen/Qwen3-30B-A3B-Instruct-2507 модель для генерации текста и диалогов. Автор позиционирует её как универсальную, с особым упором на программирование и решение задач на коде. Указаны 53 млрд параметров, 84 слоя и архитектура MoE с 128 экспертами и 8 активируемыми экспертами; модель распространяется в формате safetensors и совместима с Transformers. Модель рассчитана на контекст до 262 144 токенов. Она поддерживает несколько языков, а в метаданных перечислены английский, французский, китайский и немецкий. Базовый режим — без рассуждений; автор предлагает опциональный системный промпт для включения специального режима «thinking». Модель может использоваться в диалогах, генерации и объяснении кода, работе с длинными контекстами и сценариях с вызовом инструментов. Лицензия — Apache-2.0. Карточка не приводит независимых оценок именно этой производной версии, поэтому заявленное превосходство в программировании следует считать описанием автора; качество и скорость могут зависеть от выбранного числа активных экспертов и способа запуска.

jica98/qwen3.5-4B-super-coder — компактная 4-битная модель в формате GGUF, основанная на Qwen/Qwen3.5-4B и объединённая с квантованием с использованием Unsloth. Модель опубликована пользователем jica98 и предназначена прежде всего для программирования, рассуждений, структурированного вызова инструментов и агентских сценариев на потребительских и мобильных устройствах. Модель имеет размер около 2,6 ГБ и рассчитана на контекст до 32K токенов; заявлена также поддержка расширенных контекстов до 262K или 1M токенов через YaRN. Архитектура Qwen3.5-4B сочетает слои Gated DeltaNet и Full Attention, благодаря чему полный KV-кэш хранится только для части слоёв. Это снижает потребление памяти: для контекста 32K заявлен объём KV-кэша около 0,4 ГБ. Модель ориентирована на генерацию кода на Python, JavaScript, Shell, C++, Rust и других языках, а также на вывод JSON по заданным схемам. К сильным сторонам относятся небольшой размер, низкие требования к памяти, поддержка режима видимого рассуждения, специализация на кодировании и повышенная точность tool calling с уменьшением ложных вызовов инструментов. Ограничения включают зависимость качества от 4-битного квантования, заявленную оптимизацию главным образом под контекст 32K и отсутствие в README подробных результатов независимого тестирования, перечня поддерживаемых естественных языков и точных аппаратных требований. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-99B — текстовая версия модели Qwen3.5-122B-A10B, подготовленная 0xSero методом REAP (Routing-Enhanced Activation Pruning). Из модели с архитектурой MoE удалено 20% наименее активных экспертов; итоговый чекпойнт содержит 99 млрд параметров и распространяется в формате BF16. В метаданных указаны Transformers и возможность диалогового взаимодействия. Модель предназначена для генерации текста и диалогов, включая программирование, ответы на вопросы и рассуждения. README приводит результаты бенчмарков для генерации кода и общих задач на знания и рассуждения; согласно карточке, после удаления экспертов сохранено в среднем 97,9% измеренных возможностей. Это текстовый чекпойнт: для запуска в vLLM README рекомендует флаг --language-model-only и задаёт контекст до 8192 токенов в примере команды. Базовая модель Qwen3.5-122B-A10B мультимодальна, но данная версия не предназначена для обработки изображений. Модель опубликована под лицензией other; конкретные условия использования следует проверять в сведениях о лицензии репозитория. Для обслуживания требуется значительный объём вычислительных ресурсов; README приводит конфигурацию vLLM с четырьмя GPU и экспертным параллелизмом. Бенчмарки в карточке не гарантируют аналогичных результатов на произвольных задачах.

unsloth/Qwen3.5-9B — постобученная мультимодальная модель семейства Qwen3.5, опубликованная в формате Transformers командой Unsloth. Это причинная языковая модель с визуальным энкодером на 9 млрд параметров; архитектура сочетает Gated Delta Networks и разреженный Mixture-of-Experts. Модель принимает текст и изображения, ведёт диалог, анализирует визуальные материалы, рассуждает и поддерживает вызов инструментов. Модель рассчитана на мультиязычное применение: карточка заявляет поддержку 201 языка и диалекта. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. Веса сохранены в формате safetensors и совместимы с Transformers и рядом серверов инференса. Лицензия — Apache-2.0. Среди подходящих сценариев — вопросы по изображениям и визуальное понимание, многоязычный диалог, программирование, рассуждения и агентные задачи с использованием инструментов. Режим рассуждений включён по умолчанию; высокая пропускная способность и эффективность зависят от выбранного движка и его версии. Для длинного контекста требуются значительные ресурсы памяти, а при нехватке памяти рекомендуется уменьшить окно контекста.

tvall43/Qwen3.6-14B-A3B-VibeForged-v2-GGUF — это мультимодальная квантизированная версия модели tvall43/Qwen3.6-14B-A3B-VibeForged-v2, основанной на восстановленной и дообученной версии прореженной Qwen3.6-35B-A3B-heretic. Модель распространяется в формате GGUF для запуска через llama.cpp и совместимые инструменты, включая LM Studio, Ollama и text-generation-webui. Разработчик описывает её как MoE-модель с 14B параметров, созданную с использованием QLoRA после дообучения на тысячах практических сессий vibecoding и данных Evol-Instruct для программирования. Модель предназначена прежде всего для генерации текста и кода, рассуждений, работы с инструментами и сценариев локального программирования. В ходе дообучения акцент сделан на строгих границах рассуждений в формате <think>...</think> и чистом JSON-синтаксисе вызова инструментов. Поддерживаются текстовая и визуальная модальности: в репозитории доступны мультимодальные проекторы mmproj в форматах F16 и Q8_0, унаследованные от базовой модели. В метаданных указан английский язык; размер контекста в README не указан. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4_MOE, что позволяет выбирать между качеством, размером и скоростью в зависимости от ресурсов. Q8_0 требует около 15 ГБ памяти, а Q4_K_M ориентирован на локальный запуск примерно на 8 ГБ VRAM; характеристики других вариантов зависят от среды выполнения. Ограничения включают возможное снижение качества в сильно сжатых вариантах и необходимость поддержки MXFP4_MOE со стороны inference-движка. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B — постобученная модель с открытыми весами от hamishivi, основанная на семействе Qwen3.6. Это причинная языковая модель с визуальным энкодером, поддерживающая диалог и интерфейс вызова инструментов. В README заявлен размер 27 млрд параметров и нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель предназначена для агентного программирования, включая работу с фронтендом и анализ репозиториев, а также для диалоговых задач с изображениями и вызовом инструментов. Шаблон чата изменён для сохранения промежуточных рассуждений в истории сообщений. Для запуска указана совместимость с Transformers, vLLM, SGLang и KTransformers; репозиторий содержит веса в формате safetensors. README приводит результаты и сценарии оценки для программирования, работы в терминале, генерации веб-интерфейсов и мультимодальных задач, но таблицы с численными результатами отсутствуют. Метаданные указывают лицензию Apache-2.0. Для развёртывания с длинным контекстом требуется значительная память GPU; README рекомендует уменьшать контекст при нехватке памяти.

Qwen3.6-27B Abliterated — мультимодальная плотная модель на 27 млрд параметров, созданная mlasli на основе Qwen/Qwen3.6-27B. Вариант подготовлен с помощью Heretic v1.4.0: из модели удалено направление отказов, чтобы уменьшить отказы при запросах для исследований безопасности и других сценариев. Модель предназначена для диалогов, работы с изображениями, программирования и агентных задач; карточка также указывает поддержку нескольких языков. Контекст составляет 262 тыс. токенов с возможностью расширения до 1 млн. README заявляет, что абляция сохраняет общие возможности базовой модели, но не добавляет новых знаний или навыков. Для запуска требуется около 55 ГБ VRAM в BF16, 28 ГБ в 8-битном или 17 ГБ в 4-битном режиме. Лицензия — Apache-2.0.

FenomAI/Qwen3.6-27B-AWQ-INT4 — квантованная до AWQ INT4 версия открытой модели Qwen3.6-27B, разработанной командой Qwen; базовая модель предоставлена в репозитории Qwen/Qwen3.6-27B. Модель распространяется в формате, совместимом с Hugging Face Transformers, vLLM, SGLang и KTransformers. Это каузальная языковая модель с vision encoder, предназначенная для работы с текстом и изображениями. Основные сценарии — агентное программирование, разработка интерфейсов, анализ репозиториев и решение задач на уровне программных проектов. Модель также поддерживает сохранение контекста рассуждений из предыдущих сообщений для итеративной разработки. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; размерность скрытого представления составляет 5120. Точные поддерживаемые языки в README не указаны. Ключевое преимущество — ориентация на coding agent-сценарии и работу с длинным контекстом. Ограничения, требования к оборудованию и влияние квантования AWQ INT4 на качество отдельно не описаны. Лицензия — Apache 2.0.

batiai/Qwen3.6-27B-GGUF — это квантизированная GGUF-версия плотной мультимодальной модели Qwen3.6-27B, разработанной Alibaba и подготовленной BatiAI для локального запуска, прежде всего на компьютерах Mac с Apple Silicon. Модель распространяется через llama.cpp и Ollama и ориентирована на автономные сценарии, не требующие отправки данных во внешние облачные сервисы. Модель предназначена для генерации текста, программирования, репозиторного и агентного кодинга, многошагового рассуждения и работы с инструментами. Заявлены поддержка tool calling, thinking mode, нативного контекста до 262 000 токенов и расширения до 1 010 000 токенов с помощью YaRN. Доступны языки английский, корейский, японский и китайский. Варианты с vision projector поддерживают обработку изображений в мультимодальном режиме. Преимущество модели — сочетание 27 млрд параметров, плотной архитектуры и нескольких уровней квантизации с imatrix-калибровкой, что позволяет выбрать баланс качества, скорости и требований к памяти: от вариантов для систем с 16 ГБ RAM до почти потерьной Q6_K для конфигураций от 32 ГБ. Плотная архитектура заявлена как особенно подходящая для сложных длинных цепочек агентного кодинга, однако она обычно медленнее MoE-моделей с меньшим числом активных параметров. Для режима thinking ответы могут содержать блок рассуждений, а для получения чистого JSON при вызове инструментов требуется отключить размышление. Модель распространяется по лицензии Apache 2.0. Приведённые в README сравнительные заявления основаны преимущественно на позиционировании upstream; конкретные итоговые значения ряда бенчмарков для этой версии не указаны, поэтому их следует интерпретировать с осторожностью.

unsloth/Qwen3.6-27B-GGUF — это квантизированное распространение открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной Unsloth в формате GGUF. Модель предназначена для локального запуска и интеграции через совместимые инструменты инференса, а также для задач агентного программирования, работы с репозиториями, frontend-разработки, рассуждений и использования инструментов. Это причинная языковая модель с vision-энкодером, то есть мультимодальная модель, способная обрабатывать текст и изображения. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; заявлена поддержка сохранения контекста рассуждений между сообщениями и улучшенный разбор вложенных объектов при вызове инструментов. Языки в README не указаны. К сильным сторонам относятся большой контекст, возможности работы с изображениями, улучшенная производительность в сценариях агентного кодирования и совместимость с экосистемой Transformers, vLLM, SGLang и KTransformers. Ограничения включают высокие требования к вычислительным ресурсам, особенно при длинном контексте, а конкретные характеристики квантизации и результаты бенчмарков для данного GGUF-варианта в README не приведены. Модель распространяется по лицензии Apache 2.0.

unsloth/Qwen3.6-27B-MTP-GGUF — квантованный формат модели Qwen3.6-27B, разработанной командой Qwen; сборка и GGUF-квантизация предоставлены Unsloth. Это открытая модель с лицензией Apache-2.0, предназначенная для локального запуска и интеграции через llama.cpp, Unsloth Studio и другие совместимые инструменты. Она ориентирована прежде всего на агентное программирование, работу с интерфейсами и репозиториями, итеративную разработку с сохранением контекста рассуждений, а также вызов инструментов. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает текстовые и визуальные сценарии. Размер языковой части — 27 млрд параметров; архитектура включает 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также multi-token prediction (MTP), обученную на нескольких шагах. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Языки в README не указаны. Ключевое преимущество MTP — заявленное ускорение инференса примерно в 1,5–2 раза без потери точности. Модель поддерживает запуск на GPU, CPU и Metal, однако для MTP в llama.cpp пока не поддерживаются параллельные последовательности с np > 1 и мультимодальный проектор mmproj. При больших окнах контекста возможен повышенный расход памяти; README рекомендует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 262 144 токенов.

Qwen3.6-27B-MTP-pi-reasoning-GGUF — дообученная версия Qwen3.6-27B, опубликованная bytkim и распространяемая в формате GGUF. Модель настроена методом QLoRA и supervised fine-tuning на образцах рассуждений и успешных траекторий агентной работы, связанных с датасетом bytkim/deepseek-v4-pro-pi-reasoning-sample-traces. Базовая модель разработана командой Qwen. Модель предназначена прежде всего для локальных coding- и DevOps-агентов в стиле Pi: анализа репозитория, планирования исправлений, выполнения команд, редактирования файлов, запуска тестов, отладки и проверки результата. Она ориентирована на задачи, где агент может работать в итеративном цикле с инструментами, включая использование функций и tool calling. Заявлена поддержка текстовых и визуально-текстовых сценариев; для работы с изображениями может требоваться совместимый vision sidecar. Указан протестированный контекст до 128 тысяч токенов. Ключевые характеристики — 27 миллиардов параметров, формат GGUF, совместимость с llama.cpp, обучение рассуждениям и поддержка Multi-Token Prediction (MTP) для speculative decoding. Сильными сторонами являются планирование перед выполнением действий, рассуждения при программировании и verifier-driven debugging с повторной проверкой через тесты. В README приведён результат 40,45% pass@1 на Terminal-Bench 2.0 для задачи Pi agentic coding. Ограничения включают зависимость производительности от используемой квантизации, инфраструктуры запуска и инструментов агента; конкретные языки и точный набор поддерживаемых модальностей не указаны. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3.6-27B-OptiQ-4bit — это квантизированная MLX-версия языковой модели Qwen/Qwen3.6-27B, созданная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для локального запуска на устройствах с Apple Silicon без PyTorch и облачных сервисов, а также для генерации текста, рассуждений, программирования, следования инструкциям, работы с агентными сценариями и вызовами инструментов. Модель использует смешанную точность: 276 слоёв представлены в 4-битном формате, а 220 наиболее чувствительных слоёв — в 8-битном; размер группы составляет 64. Общий объём на диске — около 17,5 ГБ. В комплект входит MTP-голова для speculative decoding, которая при использовании mlx-optiq может ускорять декодирование примерно в 1,4 раза. README не указывает поддерживаемые языки и размер контекстного окна. Для загрузки доступна библиотека mlx-lm, а расширенные возможности предоставляет mlx-optiq. По приведённым тестам модель демонстрирует высокие результаты в MMLU, GSM8K, следовании инструкциям, вызове функций, генерации кода и извлечении данных из длинного контекста; средний Capability Score составляет 86,04. Ограничениями являются необходимость совместимого оборудования Apple Silicon, больший размер по сравнению с равномерной 4-битной версией и некоторое снижение результатов в отдельных тестах относительно неё. Модель распространяется по лицензии Apache 2.0 и наследует её от базовой модели.

unsloth/Qwen3.6-27B-UD-MLX-4bit — 4-битная MLX-квантизированная версия открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и предназначена для работы с текстом и изображениями, включая агентное программирование, фронтенд-разработку, анализ репозиториев и итеративные задачи кодинга. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру с блоками Gated DeltaNet, Gated Attention и FFN. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. README не указывает полный перечень поддерживаемых языков, однако модель позиционируется для многошаговой работы с кодом и сохранения контекста рассуждений между сообщениями. 4-битное представление снижает требования к памяти и подходит для запуска через MLX на совместимом оборудовании, но может уступать полноразмерным весам по точности. Сильными сторонами являются большой контекст, поддержка визуально-текстовых сценариев, задачи уровня репозитория и улучшенная работа в агентных coding-сценариях. Ограничения связаны с необходимостью MLX-совместимой среды и возможными потерями качества из-за квантизации; подробные сведения о языках, системных требованиях и результатах большинства тестов в предоставленном фрагменте README отсутствуют. Лицензия — Apache-2.0.

Qwen3.6-27B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx — созданная сообществом 4-битная MLX-конверсия плотной vision-language модели семейства Qwen с примерно 27 млрд параметров. В основе указаны Qwen/Qwen3.5-27B и unsloth/Qwen3.6-27B; модель дообучена с использованием Unsloth и дистиллирована на примерах рассуждений DeepSeek v4 Pro. Она предназначена прежде всего для локального запуска на Apple Silicon через MLX и ориентирована на англоязычные сценарии. Модель поддерживает генерацию, дополнение и объяснение кода, задачи, требующие пошагового рассуждения, математику, логику, отладку, агентные рабочие процессы и вызов инструментов. Архитектура использует чередующиеся слои linear attention и full attention в соотношении 3:1, скрытый размер 5120, размер головы 256 и один MTP-слой; все параметры активны для каждого токена. Поддерживаются текст, изображения и видео, а также встроенный вызов функций через шаблон чата. Квантование выполнено в формате 4-bit affine с размером группы 64; для комфортной работы рекомендуется не менее 24 ГБ unified memory, предпочтительно 32 ГБ или больше. Сильные стороны модели — специализация на программировании и рассуждениях, предсказуемая задержка плотной архитектуры, мультимодальность, tool-calling и возможность приватного локального использования. Ограничения включают отсутствие официальных результатов бенчмарков, возможные галлюцинации и ошибки в коде, снижение качества из-за 4-битного квантования и преимущественную ориентацию на английский язык. Модель распространяется по лицензии Apache-2.0.