II.2Создание и понимание программного кода

Qwen2.5-Coder-0.5B-Instruct-GGUF — набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-0.5B-Instruct, подготовленный пользователем ThomasBaruzier с использованием llama.cpp и imatrix-калибровки. Базовая модель разработана командой Qwen; в карточке также указана лицензия Apache-2.0. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: она может применяться для написания, дополнения и объяснения кода, а также других задач, связанных с программированием. Указан английский язык. Доступны варианты квантизации IQ и Q форматов размером примерно от 301 до 393 МБ, что позволяет запускать модель при ограниченных ресурсах. Ключевое преимущество — малый размер и наличие нескольких уровней квантизации с измеренными показателями perplexity и accuracy, позволяющими выбирать компромисс между качеством и требованиями к памяти. Ограничения связаны с небольшим размером модели в 0,5 млрд параметров и потерями качества при наиболее компактной квантизации; сведения об архитектуре, длине контекста и поддерживаемых модальностях в карточке не указаны.

Qwen2.5-Coder-1.5B-Instruct-GGUF — квантованные модели семейства Qwen2.5-Coder-1.5B-Instruct, разработанного Qwen и подготовленного в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом в диалоговом режиме, включая задачи программирования и использования в чат-приложениях. Указан английский язык, применяется шаблон запросов ChatML. Модель имеет размер 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантования от 2 до 8 бит, f16, с размером файлов примерно от 676 МБ до 3,09 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. Модель рассчитана на локальный запуск через LlamaEdge и совместима с llama.cpp. README не содержит подробностей об архитектуре, полном наборе поддерживаемых языков, результатах оценки или специфических ограничениях качества. Распространяется по лицензии Apache 2.0.

Qwen2.5-Coder-1.5B-Instruct-MLX-4bit — это 4-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski на основе инструментов mlx-examples; модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на генерацию и обработку кода, чат-взаимодействие и использование в составе Code Agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, данные для связывания текста и кода и синтетические данные. Заявлена поддержка контекста до 32 тысяч токенов и английского языка. Формат MLX и 4-битная квантизация снижают требования к памяти, однако README не содержит количественных данных о качестве, скорости, поддерживаемых модальностях или конкретных ограничениях кода модели. Модель распространяется по лицензии Apache-2.0.

ApolloRaines/Qwen2.5-Coder-32B-Instruct-Jbliterated — модифицированная версия Qwen2.5-Coder-32B-Instruct, разработанная Apollo Raines. Модель предназначена для генерации текста и программного кода, включая разработку, анализ и преобразование кода, а также сценарии, где требуется модель без встроенного поведения отказа. Она может применяться для творческого письма, исследований в области безопасности и академических экспериментов, однако требует ответственного использования. Модель построена на архитектуре Qwen2ForCausalLM и содержит около 32,8 млрд параметров при 64 слоях. Она сохраняет архитектуру, токенизатор и длину контекста базовой модели; в README указана поддержка английского языка. Основной формат — BF16, также доступны варианты GGUF с квантованием Q8_0 и Q4_K_M. Полноточная версия занимает около 62 ГБ, Q8_0 — 33 ГБ, а Q4_K_M — 19 ГБ. Отличительная особенность модели — удаление поведения отказа непосредственно из весов с помощью проприетарного инструмента jBlaze, без дополнительного обучения или fine-tuning. По заявлению разработчика, это должно сохранять стиль и творческие характеристики исходной модели, но одновременно означает отсутствие встроенного отказа от потенциально опасных запросов. Модель распространяется по лицензии Apache 2.0, как и базовая модель; ответственность за соблюдение законодательства и безопасное применение возлагается на пользователя.

Qwen2.5-Coder-3B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной языковой модели для генерации текста и работы с программным кодом. Исходная модель Qwen2.5-Coder-3B-Instruct-abliterated размещена Huihui-ai, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач программирования, диалогового взаимодействия и генерации текста; в метаданных указан английский язык. Модель имеет размер около 3B параметров, однако сведения о точной архитектуре, поддерживаемых модальностях и размере контекстного окна в README не приведены. Доступно множество вариантов квантизации от F16 до Q3 и IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M указан как сбалансированный вариант для большинства сценариев. Для запуска рекомендуется использовать совместимое ПО, включая LM Studio и llama.cpp; предусмотрен специальный chat-шаблон с ролями system, user и assistant. К сильным сторонам относятся компактный размер, поддержка локального запуска и широкий выбор уровней квантизации, включая варианты, оптимизированные для ARM. Ограничения — уменьшение качества в более сильных вариантах квантизации, отсутствие в README данных о результатах тестирования, контекстном окне и полном наборе языков. Модель обозначена как abliterated и uncensored, поэтому её поведение и защитные ограничения могут отличаться от исходной версии. Указана лицензия qwen-research; точные условия следует уточнять в файле лицензии исходной модели.

unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit — 4-битная квантованная версия Qwen2.5-Coder-3B-Instruct, разработанная на базе серии Qwen2.5-Coder. Серия предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания кодовых агентов и решения математических и общеязыковых задач. В карточке указана поддержка английского языка и библиотека Transformers. Для семейства Qwen2.5-Coder заявлена архитектура causal language model на базе Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов; заявленный контекст — до 32 768 токенов. Однако README содержит противоречивые сведения: идентификатор указывает на instruct-модель объёмом 3B параметров, тогда как техническое описание в тексте относится к базовой модели 0.5B с 0.49B параметров и этапом предварительного обучения. Поэтому точные характеристики именно данного 3B-варианта по README подтвердить нельзя. 4-битное представление должно снижать требования к памяти и облегчать локальный запуск, но README не приводит точных показателей качества, системных требований или ограничений квантованной версии. Модель распространяется по лицензии Apache-2.0.

TobiasLogic (Htfi) разработал эту LoRA-модель на основе базовой Qwen/Qwen2.5-Coder-1.5B. Это текстовая генеративная модель для программирования, ориентированная на прямую генерацию и анализ кода, secure coding, application security и создание инструментов для авторизованного тестирования безопасности, включая сканеры, fuzzing, proof-of-concept и reconnaissance-скрипты. Модель предназначена для разработки ПО, аудита собственных систем, CTF, лабораторных сред и обучения; использовать её следует только на системах, для которых есть разрешение на тестирование. Архитектурно это базовая Qwen2.5-Coder-1.5B без исходного instruction-tuning, дообученная методом QLoRA в 4-битном формате с rank 16 на всех линейных слоях. Обучение проводилось на примерно 1200 синтетических парах инструкций и ответов с использованием Unsloth на одной RTX 3050 Laptop с 4 ГБ памяти. Указаны поддерживаемый язык English, текстовая модальность и шаблон диалога ChatML. Доступны объединённая 16-битная версия, LoRA-адаптер и квантованная версия GGUF Q4_K_M для llama.cpp и Ollama; размер контекста в README не указан. Сильные стороны модели — генерация самостоятельных скриптов и функций на Python, JavaScript, Go и других языках, исправления для безопасного кода и стандартные инструменты разведки, сканирования и веб-тестирования. Ограничения связаны с небольшим размером: модель хуже справляется с крупными многосоставными системами, сложными цепочками эксплуатации и некоторыми низкоуровневыми сетевыми различиями; сгенерированный код необходимо проверять и тестировать. Модель описана как не склонная к отказам и этическим оговоркам, поэтому особенно важно соблюдать законность и контролировать применение. Лицензия — Apache-2.0, с наследованием лицензии базовой модели; дополнительные условия приемлемого использования указаны в USE_POLICY.md.

Agnuxo/Qwen2-7B-Instruct_CODE_Python_Spanish_English_Asistant-16bit — локальная чат-модель для генерации кода, представленная Francisco Angulo de Lafuente в рамках экосистемы P2PCLAW. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. В README заявлена помощь с Python, JavaScript, TypeScript, Rust, Go и C++, а также с научными вычислениями и библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Модель предназначена для диалоговой генерации кода и помощи при разработке, в том числе локально через Ollama или Transformers. Карточка заявляет поддержку английского и испанского языков. Лицензия — Apache-2.0. README также содержит указание перенаправлять запросы на написание научных статей в P2PCLAW; качество кода, языковое покрытие за пределами заявленных языков и результаты независимой оценки в предоставленных данных не подтверждены.

Qwen3-4B-AgentCoder — языковая модель Брюно Пистоне на 4 млрд параметров, дообученная на базе Qwen/Qwen3-4B-Thinking-2507. Она предназначена для генерации кода, многошаговых рассуждений и вызова инструментов в диалоговых сценариях. Модель — причинная языковая модель с режимом рассуждения и контекстом около 264 тысяч токенов; при дообучении использовались наборы данных для работы с инструментами, генерации кода и рассуждений, а затем применялся DPO для предпочтения более связных и качественных ответов. Модель подходит для задач программирования на Python, JavaScript и других языках, математических и логических задач, ответов на вопросы и сценариев с инструментами. Карточка сообщает о результатах на HumanEval, HumanEval+ и GSM8K, но качество вызова инструментов зависит от сложности сценария, а код может содержать синтаксические ошибки. Модель не рекомендуется для конфиденциальных данных, критически важных решений и задач, требующих экспертной специализации или полной объяснимости. Лицензия — Apache 2.0.

Карточка модели agadelmoula-avey/Qwen3-4B-Base на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Base, поэтому описание составлено по ней. Qwen3-4B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на стадии предварительного обучения, предназначенная для дальнейшей адаптации и генерации текста. В карточке указаны 4,0 млрд параметров, 36 слоёв, групповое внимание с 32 головами Q и 8 головами KV и контекст до 32 768 токенов; метаданные каталога оценивают размер весов в 3,7 млрд параметров. Модель обучена на многоязычном корпусе; README сообщает о 119 языках в обучающих данных, но не перечисляет поддержку каждого из них. Среди заявленных направлений обучения — общие знания, программирование, STEM, рассуждения и понимание длинного контекста. Для запуска рекомендуется актуальная версия Transformers: версии ниже 4.51.0 могут не распознавать архитектуру Qwen3. Лицензия — Apache-2.0.

Qwen3-4B-Diversity — дообученная разговорная языковая модель от hadadxyz на базе Qwen/Qwen3-4B. Она ориентирована на пошаговые рассуждения и использует данные, дистиллированные из ответов различных крупных ИИ-моделей. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 40 960 токенов; распространяется в формате safetensors. Модель предназначена для решения математических задач, генерации и анализа кода, общих задач на рассуждение и многоходовых диалогов. Карточка описывает обучение на разнообразных наборах данных с примерами рассуждений и рекомендует отдельные параметры генерации для режимов Thinking и Non-Thinking. Лицензия — Apache-2.0. Карточка не приводит результатов сравнительной оценки, поэтому заявленные улучшения рассуждений не сопровождаются количественными бенчмарками; фактическое качество может различаться в зависимости от задачи.

Tolu49ja/Qwen3-4B-Instruct-2507-heretic — производная чат-модель семейства Qwen3, созданная на основе Qwen/Qwen3-4B-Instruct-2507 методом abliteration, направленным на снижение частоты отказов. В приведённом сравнении доля отказов снизилась с 99 до 21 из 100 запросов; KL-дивергенция относительно исходной модели составляет 0,43. Репозиторий содержит веса safetensors для Transformers, лицензия — Apache-2.0. Модель предназначена для генерации ответов по инструкциям, рассуждений, работы с математическими и научными вопросами, кодом и инструментами, а также для задач на длинном контексте. Это плотная причинная языковая модель с 3,7 млрд параметров и контекстом до 262 144 токенов; README указывает, что она работает в режиме без пошагового рассуждения. Заявлена поддержка нескольких языков, но конкретные языки не перечислены. Меньшая частота отказов может быть полезна для запросов, которые исходная модель отклоняет, однако приведённая оценка основана на тесте из 100 запросов и не характеризует все сценарии. Как и другие языковые модели, она может ошибаться, а ответы требуют проверки; применение в чувствительных областях требует дополнительной оценки.

MMOPD/Qwen3-4B-OT3-1ep — модель рассуждений, разработанная проектом MMOPD на основе Qwen3-4B-Base и дообученная один эпохой на наборе OpenThoughts3-1.2M. Это плотная авторегрессионная языковая модель с 3,7 млрд параметров; она использует библиотеку Transformers, формат safetensors и контекст до 32 768 токенов. Модель формирует ответы в формате Qwen3 с блоком рассуждений перед итоговым ответом. Модель предназначена для многошаговых рассуждений, особенно в математике, программировании и естественных науках. Её можно использовать как помощника для решения задач и генерации кода, а также как отправную точку для создания специализированных моделей и экспериментов по дистилляции. В README приведены результаты на математических и кодовых бенчмарках, но они относятся к конкретным настройкам генерации и не гарантируют аналогичного качества в других сценариях. Модель распространяется по лицензии Apache-2.0. Для получения ответов в заявленном формате README рекомендует шаблон чата Qwen3, включённый режим рассуждений и семплирование вместо жадного декодирования.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF — мультимодальная модель, разработанная Jackrong на базе Qwen/Qwen3.5-27B. Это дообученная версия с фокусом на эффективное рассуждение и генерацию текста по изображениям и текстовым запросам; модель рассчитана на conversational-сценарии, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Доступен формат GGUF для запуска с llama.cpp и совместимых инструментов, а также поддержка экосистемы Transformers и Unsloth. Заявлены языки English, Chinese и Korean, однако сведения о размере контекста в README отсутствуют. В версии v2 использовано около 14 000 образцов рассуждений в стиле Claude 4.6 Opus, с акцентом на короткие и переносимые шаблоны рассуждений. По данным автора, на HumanEval достигнуто 96,91% pass@1 при примерно 24% меньшей длине цепочки рассуждений и на 31,6% большем числе корректных решений на токен по сравнению с базовой моделью. При этом отмечено снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%; модель может уступать базовой версии в задачах, требующих длинного контекста, сложного многошагового рассуждения и более широких общих знаний. Приведённые оценки получены в условиях инференса BF16 с Unsloth и vLLM и не гарантируют аналогичные результаты в других конфигурациях. Модель распространяется по лицензии Apache-2.0. README не содержит подробных требований к аппаратному обеспечению, точного размера контекстного окна и исчерпывающей информации о возможностях или ограничениях мультимодального ввода.

surogate/Qwen3.5-2B-FP8 — вариант модели Qwen3.5-2B, опубликованный Surogate и основанный на Qwen/Qwen3.5-2B-Base. Это каузальная языковая модель с vision encoder для текстово-визуальных задач, включая рассуждения, программирование, агентские сценарии и анализ изображений. В README вариант рекомендован для движка обучения агентов Surogate и совместим с Hugging Face Transformers, vLLM, SGLang и KTransformers. Модель содержит около 2 млрд параметров, 24 слоя, скрытое измерение 2048 и нативное контекстное окно до 262 144 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и разреженную Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Представленные веса подвергнуты мелкозернистому FP8-квантованию с размером блока 128. По данным README, такая оптимизация сохраняет показатели, близкие к исходной модели, одновременно снижая требования к памяти и повышая эффективность инференса. Сильными сторонами являются мультимодальность, большое контекстное окно, компактный размер и пригодность для высокопроизводительного развертывания и агентских систем. Ограничения включают возможную потерю точности, характерную для квантования, а также то, что README не содержит подробных сведений о качестве на всех языках, ограничениях безопасности и результатах визуальных тестов. Модель распространяется по лицензии Apache 2.0.

Карточка модели jahseh1654/Qwen3.5-4B на Hugging Face совпадает с карточкой Qwen/Qwen3.5-4B, поэтому описание составлено по ней. Qwen3.5-4B — мультимодальная модель компании Qwen на 4 млрд параметров, представленная в формате Hugging Face Transformers и дообученная на базе Qwen/Qwen3.5-4B-Base. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, анализа изображений, рассуждений, программирования и вызова инструментов. Модель использует гибридную архитектуру Gated Delta Networks и gated attention; в README указано 32 слоя. Нативная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. По умолчанию модель работает в режиме рассуждения, а для развёртывания доступны Transformers, vLLM, SGLang и KTransformers. Модель подходит для ответов на вопросы по изображениям и тексту, многошаговых диалогов и агентных сценариев с инструментами. Репозиторий распространяется по лицензии Apache-2.0. Реальная скорость и пропускная способность зависят от среды инференса; длинный контекст может приводить к нехватке видеопамяти.

TheCluster выпустил MLX-версию Qwen3.5-4B Heretic — мультимодальную диалоговую модель на 4 млрд параметров, доработанную из coder3101/Qwen3.5-4B-heretic. Модель принимает текст и изображения и генерирует текст; поддерживает диалог и режим рассуждений, который по умолчанию отключён. Файлы представлены в формате safetensors с точностью bfloat16 и предназначены для запуска в среде MLX. Версия Heretic создана с помощью Heretic v1.2.0 методом подавления отказов: в приведённой авторами проверке модель отказала в 4 случаях из 100, тогда как исходная Qwen3.5-4B — в 94. Это делает её менее склонной отказываться от запросов, но не гарантирует точность или безопасность ответов. Карточка предлагает разные параметры генерации для общих задач, рассуждений и программирования; повышенный штраф за присутствие может вызывать смешение языков и немного снижать качество. Лицензия — Apache-2.0.

thread13/Qwen3.5-4B-llamafile — сборка модели Qwen3.5-4B в формате llamafile, разработанная автором репозитория thread13 на основе Qwen/Qwen3.5-4B. Это мультимодальная чат-модель для диалога с текстом и изображениями; её можно запускать как консольный чат или веб-сервер. Llamafile объединяет модель и исполняемые компоненты в один файл на базе llama.cpp. В карточке рекомендуются параметры контекста 16 384 токена для задач рассуждения и программирования в режиме thinking. Модель предназначена для ответов на вопросы по изображениям, обычного диалога, рассуждений и помощи с кодом. Указанный в карточке формат — GGUF BF16; размер модели — 4 млрд параметров. В README не приведена лицензия этой сборки. Веб-сервер по умолчанию пытается слушать все доступные сетевые интерфейсы; для локального доступа README рекомендует явно задавать 127.0.0.1.

Jackrong/Qwen3.5-4B-Neo-GGUF — reasoning-ориентированная дообученная версия Qwen3.5-4B, разработанная Jackrong с использованием Unsloth, SFT и LoRA. Модель обучалась на данных Step-3.5-Flash-SFT и специализированной смеси наборов для рассуждений, программирования и следования инструкциям. Заявленные языки — английский, китайский и корейский; лицензия — Apache-2.0. Формат GGUF предназначен для локального и офлайн-запуска, однако конкретный размер файла и требования к памяти в README не указаны. Модель рассчитана на аналитические задачи, программирование, соревновательное программирование на Python, математику и задачи, требующие последовательного логического рассуждения. Она обучена формировать рассуждения в тегах <think>...</think> перед итоговым ответом. По заявленным результатам на сбалансированной выборке из 250 вопросов MMLU-Pro модель получила 82,00% pass@1 против 80,40% у базовой версии, одновременно сократив среднюю длину цепочки рассуждений с 6962 до 3955 символов, а медианную — с 4600 до 1951 символа. Сильной стороной модели является сочетание конкурентной точности и более компактного стиля рассуждений, что может снизить расход токенов в задачах с интенсивным анализом. Ограничения включают риск галлюцинаций, возможные усечения при чрезмерно сложных задачах и отставание от базовой модели в категории физики. Приведённые показатели получены на подвыборке MMLU-Pro и не обязательно отражают результаты на полном тесте. Модель позиционируется как тестовая версия для обучения, демонстраций, академических исследований и технических экспериментов.

Qwen3.5-4B SWE-OPD tmax500 baseline step 105 — текстовый чекпойнт Qwen3.5-4B, дообученный методом on-policy distillation на наборе Harbor SWE. Его разработчик — StephYang; модель предназначена для генерации текста и диалоговых сценариев, в частности для задач, связанных с программной инженерией. Чекпойнт обучался 3 эпохи, до 105-го шага, на выборке из 423 обучающих и 30 валидационных примеров. Архитектура — плотная причинная языковая модель Qwen3_5ForCausalLM; размер — 3,4 млрд параметров, формат весов — bfloat16 Safetensors, библиотека — Transformers. Контекстное окно — 262 144 токена. Это текстовый вариант базовой модели, экспортированный из FSDP-актора в объединённый файл весов. Для загрузки README указывает Transformers версии 5.6.0 или новее. Лицензия — Apache-2.0. Карточка описывает специализированное обучение на SWE-данных, но не приводит результаты оценки качества; заявленные характеристики базовой модели, включая понимание изображений, к этому текстовому чекпойнту не следует автоматически относить.

Qwen3.5-9B-OmniCoder-Claude-Polaris — мультимодальная модель семейства Qwen3.5, созданная nightmedia как прогрессивное слияние моделей DavidAU/Qwen3.5-9B-Claude-Opus-Sonnet-Pro-Auto-Variable-HERETIC-UNCENSORED, DavidAU/Qwen3.5-9B-Polaris-HighIQ и Tesslate/OmniCoder-9B. По карточке и метаданным, она предназначена для диалогового взаимодействия с текстом и изображениями; среди исходных моделей есть модель для генерации кода и многошаговых задач разработки ПО. В README приведены отдельные сравнительные показатели родительских моделей, но конкретные результаты этой объединённой модели не указаны. Модель использует архитектуру Qwen3.5ForConditionalGeneration и распространяется в формате safetensors. Карточка также упоминает варианты mxfp8, mxfp4 и qx86-hi в таблице оценок родительских моделей; это не подтверждает наличие таких файлов в репозитории данной модели. Поддерживаемые языки по карточке — английский и китайский. Лицензия — Apache-2.0.

Qwen3.6-14B-A3B-FableVibes-GGUF — модель tvall43 на базе Qwen3.6-14B-A3B-FableVibes, представленная в формате GGUF для запуска на локальном оборудовании. Это обобщённая модель рассуждений, дообученная на трассах рассуждений Claude Fable 5 и дополненная данными Claude Opus, Qwen для tool calling и Evol-Instruct-Code. Модель предназначена для генерации текста, решения сложных задач с многошаговым рассуждением, программирования и сценариев, связанных с вызовом инструментов. Она использует архитектуру MoE с примерно 14B активных параметров после pruning исходной модели Qwen3.6-35B-A3B. Поддерживается мультимодальный режим через файлы mmproj, однако конкретные характеристики контекстного окна и полный перечень поддерживаемых языков не указаны. Модель ориентирована на англоязычные сценарии. К сильным сторонам относятся структурированное рассуждение, улучшенные способности к работе со сложными задачами и возможность запуска на потребительском оборудовании благодаря нескольким вариантам квантования: от F16 до Q2_K. Модель поддерживает llama.cpp и совместимые интерфейсы, включая LM Studio, Ollama и text-generation-webui. Ограничениями являются повышенная задержка до первого токена из-за режима thinking, значительный расход токенов на рассуждение и возможное снижение качества в сильно сжатых вариантах квантования. Распространяется по лицензии Apache-2.0.

SassyDiffusion/Qwen3.6-27B-heretic-ara-GGUF — GGUF-версия декензурированной модели на базе Qwen3.6-27B. Модель создана SassyDiffusion с использованием Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA). Базовая Qwen3.6-27B разработана командой Qwen и ориентирована на практическую разработку программного обеспечения, агентное кодирование, работу с фронтенд-проектами и рассуждения на уровне репозитория. Это каузальная языковая модель с vision encoder, содержащая около 27 млрд параметров и 64 слоя. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; заявленная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. README не уточняет полный перечень поддерживаемых языков. Формат GGUF предназначен для запуска в совместимых инструментах локального инференса. Главная особенность версии — снижение склонности к отказам: в приведённом сравнении модель отказала в 16 из 100 тестовых запросов против 99 из 100 у исходной модели. При этом декензурирование изменяет поведение базовой модели: указана KL-дивергенция 0,0967, поэтому возможны отличия в качестве, безопасности и устойчивости ответов. Модель распространяется по лицензии Apache-2.0.

AMAImedia выпустила эту модель в рамках платформы NOESIS для автоматизации многоязычного дубляжа. Это дообученная версия Qwimi-3.6-27B-Coder-MTP-BF16 на базе trjxter/Qwimi-3.6-27B-Coder-MTP-BF16: плотная мультимодальная архитектура Qwen3.5 с 27,8 млрд параметров, чередующая слои стандартного внимания и GatedDeltaNet. Репозиторий содержит веса BF16 в формате Safetensors и предназначен для диалогового использования с Transformers. Основное назначение — помощь в программировании: генерация и объяснение кода, отладка, рефакторинг, вызов инструментов и многошаговые агентные задачи по работе с репозиториями. Обучение было текстовым и включало преимущественно кодовые данные, а также примеры вызова инструментов и SWE-agent. Карточка заявляет мультимодальный интерфейс image-text-to-text, но визуальная часть не дообучалась и не проверялась. Указаны английский, русский и другие языки; при этом модель не валидировалась для неанглоязычного применения. В отдельных приведённых тестах модель показала улучшение на HumanEval и XML-задачах с инструментами, но общий выигрыш был небольшим, а результат MBPP снизился. Агентных примеров было мало, а контекст проверяли только до 16 384 токенов; поведение на большей длине не подтверждено. Лицензия — Apache-2.0.

Qwen3.6-27B-Seven — экспериментальная мультимодальная модель на 27 млрд параметров от независимой лаборатории Nightmedia. Это многоэтапное слияние NuSLERP нескольких моделей семейства Qwen и MusaCoder-27B; среди компонентов есть модели для диалогов, рассуждений, творческого письма и генерации GPU-ядер. Архитектура — плотная Qwen3.5ForConditionalGeneration, модель поддерживает чат, следование инструкциям и визуальные входы. В карточке указаны английский, китайский, японский и испанский языки, а метаданные заявляют контекст до 1 млн токенов. Модель подходит для диалогов, творческой генерации текста, задач рассуждения и кода, в том числе синтеза CUDA/MUSA-ядер по PyTorch-примерам. В README приведены отдельные результаты замеров perplexity и скорости для нескольких точностей, но не показаны метрики качества итогового слияния. Возможности самой модели для генерации изображений или других выходов не заявлены. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-OptiQ-4bit-REAP-19B — это квантизированная и подвергнутая экспертному прунингу языковая модель для генерации текста, разработанная сообществом mlx-community на базе mlx-community/Qwen3.6-35B-A3B-OptiQ-4bit. Модель использует архитектуру Mixture-of-Experts: в каждом слое сохранено 128 из 256 экспертов, при этом для каждого токена активируются 8 экспертов. Число параметров уменьшено с 35,1 до 18,8 млрд, размер на диске составляет 13,8 ГБ, а пиковое потребление памяти — около 11,6 ГБ. Данные о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для локального запуска и генерации текста на устройствах Apple Silicon через MLX, а также для задач следования инструкциям, математических рассуждений, вызова функций и генерации кода. Прунинг выполнен методом REAP без деквантизации, повторной квантизации или дообучения; активные параметры на токен и скорость декодирования сохраняются, а скорость в указанном сравнении выросла с 47,0 до 54,7. По сравнению с исходной моделью Capability Score снизился с 80,03 до 76,57; особенно заметно падение на MMLU, тогда как результаты GSM8K и IFEval улучшились. Модель распространяется по лицензии Apache-2.0.

RobinsonLabs/Qwen3.8-27B-abliterated-GGUF — это набор imatrix-квантованных сборок GGUF на основе Qwen/Qwen3.8-27B. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая технические диалоги, отладку, работу с инфраструктурой, построение моделей, использование инструментов и следование инструкциям. Доступны варианты от IQ2_M до Q8_0 размером примерно от 10,30 до 29,05 ГБ. Модель содержит около 27,32 млрд параметров, 64 основных trunk-слоя и MTP-блок; контекст в примере запуска настроен на 32768 токенов. Модель поддерживает текстовый ввод, а визуальные возможности сохраняются через отдельный файл mmproj-Qwen3.8-27B-abliterated-f16.gguf, который необходимо подключать вместе с основной квантованной моделью. Без mmproj доступен только текстовый режим. Квантизация оптимизирована на корпусе технических операторских диалогов, поэтому сборки ориентированы на длинные технические обсуждения и instruction-following, но для общего чата или неанглоязычных сценариев универсальная калибровка может оказаться предпочтительнее. Сильными сторонами являются сохранённая vision tower, специализированная калибровка и широкий выбор вариантов под разные объёмы VRAM. Качество заметно снижается на самых компактных сборках: IQ2_M показывает ухудшение perplexity на 13,4% относительно Q8_0, хотя остаётся связной и способной следовать форматным инструкциям. Abliteration уменьшает жёсткие отказы для взрослого и творческого контента, при этом защитные ограничения против самоповреждения заявлены как сохранённые; модель не предназначена для содействия реальным правонарушениям. Распространяется по лицензии Apache-2.0.

Jakeatx подготовил GGUF-квантизацию Qwen3.8-27B для запуска через llama.cpp на одной видеокарте RTX 3090 или 3090 Ti с 24 ГБ памяти. Это диалоговая модель для генерации текста; репозиторий содержит один файл размером 13,9 ГиБ с форматом IQ4_XS и смешанным повышением точности отдельных тензоров до Q5_0, Q6_K и Q8_0. В README указано, что квантизация создана на основе BF16 GGUF Qwen3.8-27B с использованием матрицы важности Unsloth. Сборка ориентирована на скорость и длинный контекст: автор измерил окно до 245 760 токенов на RTX 3090 Ti, а для 200 000 токенов рекомендует выделить около 20,9 ГиБ под веса и контекст. По приведённым замерам скорость декодирования составляет примерно 93–108 токенов/с на контексте 16K и 44–72 токена/с на 100K, в зависимости от нагрузки. Автор ожидает качество между Q3_K_XL и Q4_K_M; сопоставительная оценка на Terminal-Bench, SciCode и GDPval ещё не завершена. Модель подходит для диалогов, программирования, поиска по длинному контексту и многошаговых задач. README отмечает, что этот репозиторий является базовой квантизированной моделью-сравнением и не включает более поздние изменения проекта Perian. Модель распространяется по лицензии Apache-2.0. Языки и мультимодальные возможности исходной модели в данных этой карточки конкретно не описаны.

OptimizeLLM/Qwen3.8-27B-heretic-MTP-BF16 — плотная мультимодальная модель, созданная на основе Qwen/Qwen3.8-27B с помощью направленной абляции HERETIC, уменьшающей склонность модели отказываться от ответов. Это исходный чекпойнт в формате BF16; сохранены MTP-головы и полная башня обработки изображений. Базовая архитектура содержит 27,8 млрд параметров и 64 слоя, сочетает линейное внимание с полным и поддерживает изображения и видео. Модель предназначена для диалогов, анализа изображений и видео, программирования и многошаговых задач; в репозитории также заявлен интерфейс вызова инструментов. По описанию автора, на тестовом наборе из 100 запросов о вредоносных действиях модель отказала один раз, но снижение числа отказов не означает нейтральности: она может сохранять склонности базовой модели. Для этой версии указана лицензия Apache-2.0. Чекпойнт опубликован для дальнейшей квантизации в нужный формат.

Youssofal/Qwen3.8-27B-MTPLX-Bare-Speed — это 4-битная quantized-версия Qwen/Qwen3.8-27B, подготовленная разработчиками MTPLX для быстрого локального запуска на компьютерах Mac с Apple Silicon. Модель предназначена для диалогов, генерации текста и кода, а также сценариев локального использования через MTPLX Mac app или командный интерфейс. Сохранённая встроенная голова multi-token prediction позволяет применять speculative decoding и ускорять генерацию примерно в два-три раза по сравнению с обычным декодированием. Модель использует MLX-пакет с 4-битными матрицами весов и группами по 64 значения; свёрточные ядра GDN, параметры рекуррентного состояния, нормализации и MTP-head хранятся в 16-битном формате. Глубина MTP составляет 3, контекстное окно — 262 144 токена, размер загрузки — 16 ГБ, пиковое потребление unified memory — около 17 ГБ. Указанные настройки sampling: temperature 1.0, top-p 0.95 и top-k 20; поддерживаются уровни reasoning effort xhigh, medium и low. Модель рассчитана на MacBook Pro, MacBook Air, Mac mini и Mac Studio с чипами M1–M5 и минимум 32 ГБ unified memory. Главное преимущество — высокая скорость генерации, особенно в коротких чат-сценариях: на MacBook Pro с M5 Max заявлено до 65,2 токена в секунду для coding-задачи и 32,4 токена в секунду при длинной генерации. Компромисс — более грубая 4-битная quantization: авторы README прямо указывают на более низкое качество и меньшую скорость на длинных задачах программирования по сравнению с вариантом Optimized Speed. Для M1 и M2 рекомендуется отдельная FP16-сборка. Модель распространяется по лицензии Apache-2.0.