II.2Создание и понимание программного кода

QuantTrio/Qwen3.6-35B-A3B-AWQ — квантованная версия открытой модели Qwen3.6-35B-A3B, разработанной командой Qwen. Репозиторий содержит веса в формате Hugging Face Transformers и подготовлен с использованием data-free-квантизации AWQ без калибровочного набора данных. Указана лицензия Apache 2.0, унаследованная от базовой модели Qwen/Qwen3.6-35B-A3B. Модель предназначена для генерации текста, программирования, агентных сценариев и работы с изображениями благодаря архитектуре causal language model с vision encoder. Она ориентирована, в частности, на repository-level reasoning, frontend-разработку, использование инструментов и сохранение контекста рассуждений между сообщениями. Для запуска рекомендуется vLLM; в README также заявлена совместимость с Transformers, SGLang и KTransformers. Архитектура включает 35 млрд параметров, из которых активируется около 3 млрд, 40 слоёв, Mixture of Experts с 256 экспертами, 8 маршрутизируемыми и одним общим активным экспертом, а также компоненты Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Размер файлов модели — около 24 ГиБ. README не приводит полный перечень поддерживаемых языков и подробные результаты тестирования. Ключевые ограничения связаны с требованиями к совместимым версиям vLLM и Transformers, CUDA 12.8 или 13.0, а также с необходимостью корректной настройки expert parallelism при распределённом запуске.

Модель hesamation/Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled — текстовая reasoning-модель, созданная разработчиком @hesamation дообучением Qwen/Qwen3.6-35B-A3B. Она предназначена для задач, требующих последовательных рассуждений: помощи в программировании, планирования, математических задач и подготовки структурированных аналитических ответов. Обучение проводилось методом supervised fine-tuning с LoRA на текстовых рассуждениях, в основном полученных дистилляцией Claude Opus 4.6; адаптер объединён с базовой моделью. В основе — мультимодальная архитектура Qwen3.6 MoE с 35 млрд параметров, из которых активируется около 3 млрд. Базовая модель принимает изображения, однако этот этап дообучения использовал только текст, поэтому улучшения заявлены для текстовых задач, а не для изображений или видео. Нативная длина контекста базовой модели — 262 144 токена; README указывает возможность расширения до 1 010 000 токенов. В метаданных указан английский язык. Карточка приводит результат MMLU-Pro на 70 вопросах как ограниченную сравнительную проверку, а не полноценный бенчмарк релизного качества. Модель выпущена под лицензией Apache-2.0.

trohrbaugh создал вариант Qwen3.6-35B-A3B с применением abliteration — модификации, направленной на снижение склонности модели отказывать в ответах. Это мультимодальная модель семейства Qwen с архитектурой смеси экспертов и зрительным энкодером, предназначенная для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов. Модель содержит 35 млрд параметров, из которых активируется около 3 млрд; в MoE используются 256 экспертов, включая восемь маршрутизируемых и один общий активный эксперт. Контекст составляет 262 144 токена и может расширяться до 1 010 000. Репозиторий содержит веса в формате safetensors для Transformers и совместимых сред. В приведённом сравнении исходная модель отказывала в 99 из 100 проверочных запросов, а этот вариант — в 2 из 100; результат относится к указанной проверке и не гарантирует поведение на других запросах. Модель подходит для генерации и анализа текста и изображений, помощи в разработке ПО и агентной работы с инструментами. Карточка не сообщает языковые коды; в описании исходного семейства упомянуты двуязычные английские и китайские тесты, что само по себе не подтверждает полный перечень поддерживаемых языков. Лицензия — Apache 2.0. Автор указывает, что загрузка до исправления 2 мая 2026 года могла содержать некорректно сохранённые веса MoE; для корректной работы нужна исправленная версия репозитория.

tvall43/Qwen3.6-35B-A3B-heretic — созданная сообществом декензурированная версия Qwen3.6-35B-A3B, полученная с помощью Heretic v1.2.0 и метода ablation/abliteration, изменяющего проекции внимания. Это мультимодальная модель семейства Qwen с архитектурой MoE: всего 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения и генерирует текст. Модель предназначена для диалогов, анализа изображений и задач программирования, включая работу с репозиториями и агентные сценарии с вызовом инструментов. В README приведено сравнение с исходной моделью: на указанной авторами выборке доля отказов снизилась с 86 из 100 до 5 из 100, а KL-дивергенция составила 0,0097. Контекст — 262 144 токена с возможностью расширения до 1 010 000 токенов. Для запуска используются веса safetensors и совместимые с Transformers среды, включая vLLM, SGLang и KTransformers. Модель опубликована по лицензии Apache-2.0. Изменение поведения отказов может приводить к ответам на запросы, которые исходная модель отклоняла; приведённые показатели относятся к оценке автора и не гарантируют качество или безопасность в иных сценариях.

trohrbaugh/Qwen3.6-35B-A3B-heretic-v2 — модифицированная версия Qwen3.6-35B-A3B, созданная методом abliteration: параметры модели изменены для снижения частоты отказов. В приведённом сравнении модель отказала в 0 из 100 случаев против 99 из 100 у исходной версии; KL-дивергенция относительно оригинала составляет 0,1263. Репозиторий содержит веса в формате Safetensors, совместимые с Transformers и рядом движков инференса. Модель сочетает языковую часть на архитектуре MoE с визуальным энкодером. Всего в ней 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения, поддерживает диалог и имеет контекст 262 144 токена с возможностью расширения до 1 010 000. README описывает применение исходного семейства для агентного программирования, работы с репозиториями, вызова инструментов и визуальных задач. Модель подходит для диалоговых и агентных сценариев, генерации и анализа кода, а также вопросов по изображениям. Снижение числа отказов не гарантирует корректность ответов и может увеличить вероятность выдачи нежелательного или небезопасного содержания. Лицензия — Apache-2.0.

unsloth/Qwen3.6-35B-A3B-MLX-8bit — MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B, подготовленная Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для работы с текстом и изображениями, агентного программирования, анализа репозиториев, фронтенд-разработки и сценариев с вызовом инструментов. Модель поддерживает улучшенное сохранение контекста рассуждений между сообщениями и обработку вложенных структур при tool calling. Архитектура использует Mixture of Experts: всего 35 млрд параметров, из которых при генерации активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. В README не указано, какие языки поддерживаются. К сильным сторонам относятся высокая вычислительная эффективность разреженной MoE-архитектуры, поддержка визуального ввода, длинного контекста, агентного кодирования и локального запуска через MLX. Ограничения включают необходимость совместимой MLX-инфраструктуры и отсутствие в предоставленных данных подробных результатов бенчмарков, требований к оборудованию и описания возможных ограничений качества. Модель распространяется по лицензии Apache-2.0.

FastFlowLM/Qwen3.6-35B-A3B-NPU2 — открытая модель семейства Qwen3.6, разработанная командой Qwen и основанная на Qwen/Qwen3.6-35B-A3B. Это авторегрессионная языковая модель с vision encoder, предназначенная прежде всего для программирования, агентских сценариев, работы с интерфейсами и репозиториями, а также для задач, требующих анализа длинного контекста. Модель поддерживает формат Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель имеет 35 млрд параметров, из которых при генерации активируются 3 млрд. Архитектура сочетает Gated DeltaNet, Gated Attention и Mixture of Experts: используется 40 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общий активный эксперт. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Указана поддержка визуального ввода через vision encoder, однако точный перечень языков и параметры визуальной части в README не приведены. Сильными сторонами модели заявлены улучшенная работа с frontend-задачами, рассуждением на уровне репозитория и сохранением контекста рассуждений между сообщениями. Ограничения, включая качество на конкретных языках, требования к аппаратному обеспечению и особенности версии NPU2, в README не описаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-UDT-MTP-GGUF — это квантизированная в формате GGUF версия модели Qwen3.6-35B-A3B, подготовленная Atomic Chat на основе оригинальных весов Qwen. Модель предназначена для локального и полностью офлайн-использования в llama.cpp, Ollama, LM Studio, Jan и Atomic Chat, включая диалоговые сценарии, агентное программирование, работу с фронтенд-задачами и рассуждения на уровне репозиториев. Модель имеет 36 млрд параметров, 40 слоёв и архитектуру Mixture-of-Experts с 256 экспертами, из которых выбираются 8, а также 16 attention heads и 2 KV heads. Заявленный контекст составляет 262 144 токена. Поддерживаются текстовая и визуальная модальности; для обработки изображений в репозитории доступен vision-проектор mmproj-BF16.gguf. Квантизация выполнена с использованием importance matrix для разных уровней точности, что должно помогать сохранять качество при низкобитных форматах. К сильным сторонам относятся мультимодальность, большой контекст, MoE-архитектура, локальная работа без передачи данных во внешние сервисы и квантизация, откалиброванная importance matrix. Ограничения включают необходимость выбора подходящего GGUF-кванта, значительные требования к ресурсам и обязательное применение шаблона чата Qwen3.6 через параметр --jinja; для изображений требуется vision-проектор и совместимый интерфейс. Базовая модель выпущена под лицензией Apache 2.0, квантизация выполнена Atomic Chat.

Qwen3.6-Max-Preview — проприетарная модель Alibaba Cloud на архитектуре разреженной смеси экспертов (MoE), содержащая примерно 1 трлн параметров. Она предназначена для агентного программирования, использования инструментов и генерации текста. Доступный фрагмент карточки не раскрывает подробности об интерфейсе, поддерживаемых языках или длине контекста. Модель представлена как Preview; условия лицензии в доступных данных не описаны.

Qwen3.7-Max — флагманская модель серии Qwen3.7, разработанная Alibaba. Она принимает и выдаёт текст и предназначена для агентных сценариев, включая программирование, работу с офисными задачами и повышение продуктивности. Карточка модели отмечает сильные стороны в задачах кодирования и офисной работы. В метаданных Hugging Face указана задача генерации текста и дата публикации 21 мая 2026 года. Сведений о размере, длине контекста, языках, лицензии и ограничениях в доступных материалах нет.

unsloth/Qwen3.8-2.4T-A95B-GGUF — квантованная версия открытой модели Qwen3.8-2.4T-A95B, подготовленная Unsloth с использованием подхода Unsloth Dynamic 2.0. Модель разработана командой Qwen и предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также для долгих многошаговых агентских сценариев. README указывает совместимость исходных артефактов с Transformers, vLLM, SGLang и TokenSpeed. Это причинная языковая модель с архитектурой Mixture of Experts: 2,4 трлн параметров всего, из которых активируется 95 млрд. Она содержит 92 слоя, скрытое измерение 8192 и 512 экспертов, из которых для обработки токена маршрутизируются 10 экспертов и один общий. Архитектура сочетает Gated DeltaNet и Gated Attention, а также поддерживает Multi-Token Prediction. Нативная длина контекста составляет 262 144 токена и может быть расширена примерно до 1 010 000 токенов. Управление глубиной рассуждений выполняется параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Сильные стороны модели — высокий заявленный уровень для сложного кодирования, профессиональной работы, исследований, планирования и автономного выполнения задач, а также большой контекст и возможность настройки рассуждений. Ограничения включают крайне большой общий размер модели и соответствующие требования к памяти и инфраструктуре; конкретные требования зависят от выбранного GGUF-кванта и конфигурации запуска. В README не указаны поддерживаемые языки и точные параметры доступных квантований. Лицензия обозначена как qwen3.8-max; условия следует уточнять в файле LICENSE.

Карточка модели wujitang/Qwen3.8-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Frosty40/Qwen3.8-27B-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат GGUF для запуска через llama.cpp. Модель предназначена для генерации и анализа текста, работы с кодом и агентскими сценариями, а также для задач vision-language с обработкой изображений через отдельный vision projector. Поддерживаются большие контексты до 262K токенов, гибридная архитектура с 48 слоями линейного внимания Gated-DeltaNet и 16 слоями полного внимания, а также межслойное позиционное кодирование MRoPE и гибридная recurrent-attention память. Языки в README явно не указаны. Основной рекомендуемый файл использует квантование Q6_K, повышенную точность Q8_0 для attention-проекций и встроенную MTP-голову для speculative decoding; его размер составляет 23,2 ГБ. MTP может ускорять декодирование примерно на 45–95% при поддержке NextN/MTP в llama.cpp. Заявлены высокая близость к версии bf16, особенно для кода и агентских задач, а также сохранение качества vision-инференса. Для работы требуются llama.cpp с поддержкой архитектуры qwen35, а для MTP-версии — дополнительная поддержка NextN/MTP и vision projector. Контекстное смещение недоступно, а превышение объёма памяти видеокарты приводит к выгрузке в оперативную память и снижению производительности. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-GGUF — мультимодальная модель семейства Qwen, разработанная командой Qwen и представленная в формате GGUF пользователем prithivMLmods. Это плотная causal language model на 27 млрд параметров с собственным vision encoder, предназначенная для генерации и понимания текста, анализа изображений и видео, визуального вопросно-ответного взаимодействия, OCR, описания изображений и видео, понимания документов, визуального рассуждения, а также агентных задач, включая написание кода и взаимодействие с компьютером, браузером и мобильными устройствами. Модель использует 64-слойную гибридную архитектуру с блоками линейного внимания Gated DeltaNet и периодическими слоями Gated Attention, обучалась с Multi-Token Prediction и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 млн токенов через YaRN. Указаны языки English и Chinese. Доступны варианты GGUF с точностями от Q2_K до Q8_0, а также BF16 и F16; размеры файлов составляют примерно от 10,9 до 54,7 ГБ, что позволяет выбирать компромисс между качеством и требованиями к ресурсам. Формат MTP GGUF интегрирует дополнительные выходные головы для ускорения инференса посредством предсказания нескольких будущих токенов за один проход. Сильными сторонами заявлены мультимодальность, большой контекст, поддержка управляемого уровня рассуждений через параметр reasoning_effort и высокая эффективность в задачах агентного программирования, computer-use и мультимодального использования инструментов. Ограничениями являются значительные требования к памяти, особенно для BF16 и F16, а также зависимость возможностей от выбранной квантизации и совместимого программного обеспечения. Модель совместима с Hugging Face Transformers, vLLM, SGLang, TokenSpeed и llama.cpp. Распространяется по лицензии Apache-2.0.

palmfuture/Qwen3.8-27B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия Qwen3.8-27B, опубликованная palmfuture и основанная на модели Qwen/Qwen3.8-27B. Модель предназначена для диалогов, следования инструкциям, генерации кода, математических рассуждений и работы с изображениями. Заявлены английский, китайский и тайский языки, а также сценарии codeswitching. Модель использует гибридную архитектуру с обычным attention и линейным attention на основе Gated DeltaNet/Mamba; визуальный encoder сохранён в формате bf16, как и embeddings, lm_head, нормализации и MTP-компоненты. Основной набор линейных слоёв квантизован в int4 с uniform group_size=32. Указана поддержка контекста до 262144 токенов в конфигурации SGLang; пример для vLLM ограничен 8192 токенами. В комплект входят веса Multi-Token Prediction для speculative decoding, совместимые с SGLang и vLLM. К сильным сторонам относятся существенное снижение требований к памяти, совместимость с популярными inference-системами, поддержка vision-задач и ускорение генерации за счёт speculative decoding. К ограничениям относятся необходимость корректной настройки runtime: для SGLang рекомендуется mamba-ssm-dtype=float32, поскольку float16 может вызывать дрейф состояния и ошибки в тайских диакритических знаках на длинных диалогах. Модель распространяется по лицензии Apache-2.0.

Карточка модели OpenIntelligenceNet/Qwen-3.8-27B-Heretic на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

ddalcu/Qwen3.8-27B-MLX-Serve-4bit — 4-битная MLX-квантизированная версия мультимодальной модели Qwen3.8-27B, разработанная ddalcu на основе Qwen/Qwen3.8-27B. Модель предназначена для локального запуска через mlx-serve на компьютерах Mac с Apple Silicon и поддерживает работу с текстом, изображениями, инструментами и режимом рассуждений. Она может использоваться для диалога, генерации и анализа текста и кода, обработки изображений, вызова инструментов и интеграции с клиентами через OpenAI- и Anthropic-совместимые API. Модель имеет 27 млрд параметров, занимает около 18,2 ГБ на диске и рассчитана на размещение в памяти Mac с 32 ГБ. Нативное контекстное окно составляет 262 144 токена, однако фактический размер зависит от доступной памяти устройства. В сборку включена нативная MTP-голова для multi-token prediction, ускоряющая декодирование, особенно при генерации кода. Также поддерживаются vision-language сценарии, XML-формат вызова инструментов Qwen3.8 и управление глубиной рассуждений. Главное преимущество сборки — возможность запустить крупную мультимодальную модель локально на 32-гигабайтном Mac без облака и Python-окружения. Компромисс — повышенный шум 4-битной квантизации: заявленная оценка составляет 9,25% против 0,71% у 8-битной версии, поэтому 8-битная сборка предпочтительнее при наличии достаточного объёма памяти. Указанные скорости зависят от оборудования и режима: на M4 Max с 128 ГБ заявлены до 75,3 токена в секунду для кода и 39,7 токена в секунду для пояснительного текста при включённом MTP. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-mlx-uniform-4bit — MLX-версия модели Qwen3.8-27B, подготовленная caslca на основе unsloth/Qwen3.8-27B. Модель преобразована в равномерный аффинный 4-битный формат с группами по 64 значения; заявленный размер — около 27 млрд параметров, объём весов — 15,13 ГБ. В сборку также включены 333 визуальных тензора, поэтому модель предназначена для сценариев image-text-to-text и поддерживает работу с текстом и изображениями. В README не указаны полный перечень языков и точное максимальное окно контекста, однако тесты проводились с ограничением до 262 144 токенов. Основные сценарии применения — агентное программирование, исследовательская работа, проектирование, математические задачи, генерация и анализ кода, а также базовое описание изображений. Для ускорения декодирования рекомендуется использовать отдельный MTP-компаньон caslca/Qwen3.8-27B-mlx-uniform-4bit-mtp-drafter; одобренная конфигурация предполагает MTP ON, среднюю интенсивность рассуждений и temperature 0,6. Модель ориентирована на запуск через MLX/Metal, в частности на системах Apple Silicon. К сильным сторонам относятся компактное 4-битное представление, поддержка визуального ввода, высокая производительность в проверенных тестах программирования и математики, а также сохранение качества при включённом предикторе MTP в большинстве проведённых сравнений. Результаты имеют ограничения: сравнение на MBPPPlus признано неокончательным, визуальная проверка была небольшой и не подтверждает качество на произвольных изображениях, OCR или сложных диаграммах, а отдельные тесты были exploratory и не заменяют широкую сертификацию. Модель распространяется по лицензии Apache-2.0.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Speed — квантованная версия Qwen3.8-27B, адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена прежде всего для локального программирования, генерации текста и работы с инструментами вроде OpenCode, Claude Code и совместимых с OpenAI или Anthropic API приложений. Разработчик базовой модели — Qwen; данный MLX-пакет подготовлен Youssofal для MTPLX. Модель использует динамическое 4-битное квантование с группами по 32 веса: наиболее чувствительные компоненты частично сохранены в 8- или 16-битном формате, включая MTP-голову. Архитектура сохраняет native multi-token prediction с глубиной MTP 3, что позволяет MTPLX применять спекулятивное декодирование на Apple Silicon. Размер загрузки составляет 20,4 ГБ, пиковое потребление unified memory — около 23,6 ГБ, контекстное окно — 262 144 токена. Указанные в README языки не перечислены, но приведённая проверка включает многоязычный текст. Главное преимущество — высокая скорость локальной генерации при близости к исходной модели: заявлены показатели до 87,6 токена в секунду в отдельных сценариях и около 58,7 токена в секунду на средней задаче программирования на M5 Max. По данным автора, точность согласования с bf16-чекпойнтом составляет 96% top-1, а спекулятивная генерация сохраняет исходное распределение выборки. Ограничения включают зависимость от MTPLX и Apple Silicon, требование не менее 32 ГБ unified memory, а также неизбежные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

Это текстовая сборка Qwen3.8-27B от Prism ML, созданная на основе Qwen/Qwen3.8-27B и упакованная для локального coding-агента chad на компьютерах Apple Silicon. Плотная гибридная архитектура включает 64 слоя: 48 GatedDeltaNet и 16 слоёв полного внимания. Веса проекций представлены в базисе Hadamard и квантованы до 2 бит; общий объём весов составляет 7,15 ГБ, а вместе с черновой моделью для ускорения декодирования — около 8 ГБ. Заявленная длина контекста — 262 тысячи токенов. Модель предназначена для диалогов и программирования в локальном агенте. В комплект входит квантованный DFlash2-драфтер на 1,9 млрд параметров, который предлагает блоки токенов для спекулятивного декодирования; по README, на M4 Pro это повышает скорость генерации с 21 до 64 токенов в секунду. Визуальная башня удалена, поэтому эта сборка принимает только текст. Для корректной загрузки требуется реализация, учитывающая Hadamard-преобразования; обычный загрузчик MLX может выдать некорректный результат. Модель распространяется по лицензии Apache-2.0; для вложенного драфтера README отдельно просит соблюдать лицензию и условия цитирования исходного релиза.

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

zerodigest/Qwen3.8-27B-YMQ-MTP-GGUF — это набор GGUF-квантизированных вариантов модели Qwen3.8-27B, подготовленный проектом ZeroDigest на основе официальных исходных файлов BF16. Релиз использует архитектурно-ориентированную смешанную точность, подходы, вдохновлённые AutoRound, и компилятор YMQ-Compiler v2.0. В описании также заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации. Модель предназначена прежде всего для локального запуска и задач генерации кода, включая разработку, работу с API и многофайловыми проектами в инструментах вроде RooCode и Aider. Доступно несколько пресетов размером примерно от 9,8 до 19 ГБ, рассчитанных на видеокарты с 12–20 ГБ памяти и различные компромиссы между качеством, контекстом и требованиями к VRAM. Для вариантов приведены результаты измерений на WikiText-2 при контексте 4096 токенов; наилучшее указанное значение perplexity составляет 6,8413 у пресета M. Сильной стороной является распределение точности по компонентам модели с приоритетом сохранения логики и качества рассуждений при ограниченной памяти. Ограничения зависят от пресета: наиболее компактные варианты имеют заметный шум квантизации и рекомендуются для коротких или простых сценариев, а более качественные требуют больше видеопамяти. В README не указаны языки, точное максимальное окно контекста и полный перечень поддерживаемых модальностей; по доступным данным модель ориентирована на текстовую генерацию. Лицензия — Apache-2.0.

Qwen3.8-9B MLX MXFP4 — это квантованная версия модели empero-ai/Qwen3.8-9B, подготовленная schsu для локального запуска на компьютерах Mac с Apple silicon. Исходная модель разработана Empero и представляет собой полнопараметрическую дистилляцию Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B на основе примерно 70 000 отобранных трасс учителя, посвящённых математике, программированию, рассуждениям, следованию инструкциям и использованию инструментов. Модель предназначена для генерации текста, решения задач, программирования, рассуждений, выполнения инструкций и сценариев с tool use и function calling. Она поддерживает английский язык; в комплект входят токенизатор, конфигурация генерации и chat template. Модель содержит 9,65 млрд параметров, использует архитектуру Qwen3.5-9B и 4-битное weight-only-квантование MXFP4 (E2M1) с размером группы 32. Средний размер хранения составляет 4,251 бита на вес, размер квантованного checkpoint — около 4,5 ГБ, архитектурный предел контекста — до 262 144 токенов. К сильным сторонам относятся локальная работа на Apple silicon, поддержка явного режима рассуждений, вызова функций и многошагового взаимодействия с инструментами, а также компактный размер по сравнению с полноразмерными весами. Практические требования к памяти зависят от длины контекста и характеристик устройства, поскольку KV-кэш растёт вместе с активным контекстом; приведённые показатели скорости и потребления памяти являются лишь локальным smoke-тестом и не заменяют комплексные бенчмарки. Для работы требуются современная macOS, Python 3.10 или новее, mlx-lm версии 0.31.3 или новее и mlx версии 0.32.0 или новее. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Coder-85GB-BF16 — производная модель Jab1718 на базе Qwen/Qwen3.8-Flash-Next, предназначенная для генерации кода и задач программирования. По README, это выделенная с помощью moe-slice разреженная MoE-подсеть: сохранены 48 трансформерных слоёв и 160 экспертов на слой; веса представлены в BF16, размер чекпойнта — около 85,24 ГБ. В карточке Hugging Face указаны 5,1 млрд параметров и контекст до 262 144 токенов. Модель рассчитана на диалоговое использование для написания, отладки и изменения кода, включая агентные сценарии. README сообщает о проверках на программных задачах на нескольких языках, но эти результаты относятся к описанной авторами тестовой подборке и не гарантируют аналогичного качества в других условиях. Метаданные указывают английский, вьетнамский и китайский языки; отдельная поддержка русского не заявлена. Лицензия — Apache-2.0.

Qwen3.8-Flash-Coder Selective INT8 — сжатая версия модели Qwen3.8-Flash-Next, опубликованная Jab1718 и предназначенная для генерации кода и диалогового использования. Это языковая MoE-модель с 48 слоями, 128 экспертами на слой и выбором восьми активных экспертов. По README, матрицы маршрутизации и внимания сохранены в BF16, а параметры FFN-экспертов сжаты до INT8; файлы Safetensors занимают около 19,7 ГБ. Метаданные указывают 5,1 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации и дополнения кода, в том числе на Python и Rust, а также для программных диалогов. README заявляет прохождение всех четырёх проверок на стандартных тестах Python и Rust; это ограниченный набор оценок и не гарантирует качество на других языках программирования и задачах. Указанная лицензия — Apache 2.0.

Qwen3-Blitzar-Coder-F1-6B-Brainstorm20x — текстовая инструктивная модель для генерации кода, созданная DavidAU на основе дообученной модели prithivMLmods/Blitzar-Coder-4B-F.1 с применением адаптера Brainstorm 20x. Модель рассчитана на генерацию и доработку кода по подробным инструкциям, в том числе на пошаговое решение сложных задач и мозговой штурм. Модель использует архитектуру Qwen3ForCausalLM и содержит 5,4 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — до 40 960 токенов. В карточке указана поддержка английского языка. Автор описывает Brainstorm 20x как модификацию, направленную на улучшение связности рассуждений, детализации и следования инструкциям, однако отмечает, что повышение интеллекта модели не было целью или предметом оценки. Исходные веса доступны в формате safetensors и могут использоваться напрямую или конвертироваться в другие форматы. Для работы требуется шаблон Jinja или ChatML. Лицензия — Apache 2.0. Практическое качество на сложных задачах зависит от настроек генерации и используемой точности; README рекомендует более высокие квантизации для многошагового решения задач.

Qwen3-Coder-23B-A3B-KREAP-MLX — это созданная RAS-LAB сжатая версия инструктивной модели Qwen3-Coder-30B-A3B-Instruct для генерации текста и кода, диалогов и работы с инструментами. Модель использует архитектуру MoE и доступна в формате safetensors для MLX и Transformers; в README указаны около 23 млрд параметров и 3,3 млрд активных, тогда как метаданные каталога указывают 2,6 млрд параметров. Контекст — до 262 144 токенов. Модель получена однопроходным удалением экспертов K-REAP без дообучения: число маршрутизируемых экспертов на слой сокращено со 128 до 96, при этом сохранены top-8 и корейские пути экспертов. По приведённым в карточке тестам, это помогает сохранить качество на корейском языке при небольшом снижении результатов по ряду корейских, английских и программных бенчмарков. Предназначена для программирования, рассуждений, математических задач и корейско-английских диалогов. Лицензия — Apache-2.0.

MLX-совместимая 4-битная версия Qwen3-Coder-30B-A3B-Instruct — инструкционная языковая модель для генерации текста и решения задач, связанных с программированием. Исходная модель разработана командой Qwen, а конвертацию в формат MLX выполнил проект mlx-community с использованием mlx-lm версии 0.26.3. Модель предназначена для локального запуска через библиотеку mlx-lm и поддерживает диалоговый сценарий с применением chat template. Обозначение 30B-A3B указывает на конфигурацию исходной модели, а 4bit — на 4-битное квантование, уменьшающее требования к памяти по сравнению с полноформатными весами. В README не указаны точные архитектурные параметры, размер контекста, поддерживаемые языки и перечень модальностей; по имеющимся данным модель относится к текстовым моделям. К сильным сторонам относятся специализация исходной Qwen3-Coder на задачах программирования, инструкционная настройка и возможность использования в MLX-окружении. К ограничениям относятся зависимость от совместимого программного стека и потенциальные потери качества, связанные с 4-битным квантованием; конкретные показатели производительности в README не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-6bit — 6-битная квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантизация выполнена командой LM Studio с использованием MLX, поэтому модель оптимизирована для запуска на устройствах с Apple Silicon и предназначена для генерации текста, прежде всего в сценариях, связанных с программированием и работой с кодом. Модель основана на исходной Qwen3-Coder-30B-A3B-Instruct; её архитектура, поддерживаемые языки, модальности и размер контекста в README не уточняются. Квантизация снижает требования к памяти и делает локальный запуск более практичным, однако может повлиять на точность по сравнению с исходной версией. Также модель может генерировать неточный, вредоносный или неподходящий контент, поэтому результаты требуют проверки. Для исходной модели указана лицензия Apache 2.0. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

MLX-версия модели Qwen3-Coder-Next, разработанная сообществом mlx-community и конвертированная из Qwen/Qwen3-Coder-Next с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста, в первую очередь в сценариях, связанных с программированием и работой с кодом, и рассчитана на запуск через экосистему MLX. Модель представлена в 5-битном формате квантования, что уменьшает требования к памяти по сравнению с полноразмерным представлением и может быть удобно для локального запуска на совместимом оборудовании Apple. В README не указаны точные архитектурные параметры, количество параметров, поддерживаемые языки, размер контекста или дополнительные модальности; заявлена только текстовая генерация. Для использования требуется библиотека mlx-lm и совместимое с MLX окружение. Сильными сторонами являются оптимизация под формат MLX и уменьшенный размер представления, однако 5-битное квантование может влиять на точность по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.