II.2Создание и понимание программного кода

Qwen3.6-27B-Claude-Opus-DeepSeek-Distilled-Imatrix-MTP-1M-GGUF — квантованная модель в формате GGUF на базе Qwen3.6-27B, опубликованная Brian6145. Она предназначена для локального запуска, агентных сценариев, ReAct-рассуждений, использования инструментов, структурированного вывода, многошагового выполнения задач, анализа кода и работы с длинными документами. Модель поддерживает английский и китайский языки и относится к задачам генерации текста. Вариант дообучен методом дистилляции с использованием Claude Opus, DeepSeek и математико-логических моделей: заявлены улучшения систематичности рассуждений, оркестрации инструментов, завершения задач и математической логики. Контекстное окно расширено с 262 144 до 1 048 576 токенов с помощью YaRN, что позволяет обрабатывать книги, большие кодовые базы и длительные диалоги. В репозитории также заявлена поддержка speculative decoding через MTP; конкретный размер квантования для этой карточки не указан. В качестве сильных сторон заявлены агентное поведение, вызов инструментов, следование инструкциям, структурированный вывод и результаты на внутренних тестах, включая GPQA-Diamond — 83,84% и MMLU-500 — 91,80%. Рекомендуемые параметры генерации — temperature 0,6 и top_p 0,95; отклонение от них, согласно README, может ухудшать стабильность и качество вызова инструментов. Производительность зависит от оборудования и конфигурации инференса. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B Claude Opus Reasoning Distilled — текстовая модель на 27 млрд параметров, дообученная Rico03 на базе Qwen/Qwen3.6-27B. Разработчик сообщает, что обучение проведено на примерно 14 тысячах примеров с цепочками рассуждений Claude Opus и Qwen; модель распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для генерации ответов в диалоге и задач, требующих структурированного анализа: программирования, математики, логики и решения аналитических задач. Дообучение направлено на более последовательную декомпозицию сложных запросов и сокращение повторяющихся рассуждений на простых задачах. Метаданные также отмечают интерфейс вызова инструментов. Модель унаследовала от базовой Qwen заявленные возможности работы с изображениями, однако автор указывает, что дообучение проводилось только на текстовых данных и не адаптировало зрительные способности. Модель поддерживает английский и многоязычный ввод, но конкретный перечень языков в карточке не приведён. Контекстное окно не указано. Возможны фактические ошибки, поскольку это авторегрессионная языковая модель; обучение в течение одной эпохи на ограниченном наборе примеров также может влиять на качество в отдельных сценариях.

Это мультимодальная модель Qwen3.6-27B, созданная darkc0de на основе Qwen/Qwen3.6-27B и дообученная на примерах рассуждений Claude Opus. Затем модель прошла decensoring методом abliteration с помощью Heretic v1.3.0; опубликованные параметры и сравнение показывают снижение частоты отказов с 98 до 8 на 100 запросах относительно исходной версии distill. Модель предназначена для диалогов, программирования, творческого письма, понимания изображений и задач общего назначения. Архитектура плотная, с 27 млрд параметров; заявлена поддержка изображений и текстового чата. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Для запуска автор отсылает к инструкциям команды Qwen.

Jonandrop/Qwen3.6-27B-MTPLX-Optimized-Speed-Vision — мультимодальная модель семейства Qwen, собранная разработчиком Jonandrop на основе Qwen/Qwen3.6-27B и ускоренной версии Youssofal/Qwen3.6-27B-MTPLX-Optimized-Speed. Она предназначена для диалогов, программирования и анализа изображений; README также заявляет обработку видео, но описанный интерфейс подтверждает только текстовый и графический ввод. Модель использует архитектуру Qwen3_5ForConditionalGeneration и рассчитана на запуск через MLX и MTPLX на Apple Silicon с многотокенным предсказанием для ускорения генерации. Текстовая часть и MTP-компоненты квантизованы, а восстановленная башня зрения хранится в BF16. В описанном сценарии модель принимает текст и изображения и генерирует текстовые ответы, включая код. README приводит замеры скорости на Apple M5 Pro, но уточняет, что это ориентировочные результаты на небольшом наборе запросов. Репозиторий распространяется по лицензии Apache-2.0. Для запуска описан совместимый с OpenAI API сервер MTPLX.

unsloth/Qwen3.6-27B-NVFP4 — это квантованный checkpoint модели Qwen3.6-27B, разработанный Unsloth на основе модели Qwen от команды Qwen. Модель представляет собой каузальную языковую модель с vision-энкодером и предназначена для генерации текста, мультимодального понимания изображений, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозиториев. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; в checkpoint включён модуль Multi-Token Prediction (MTP), который может использоваться для ускорения декодирования. Точные языки в README не указаны. Формат NVFP4 рассчитан на эффективный запуск, в том числе на GPU с 24 ГБ VRAM. По заявлению Unsloth, checkpoint обеспечивает до 2,5 раза большую пропускную способность по сравнению с другими NVFP4-квантованиями, а результаты на MMLU-Pro, GPQA и AIME 2025 близки к FP8 и BF16. Основные ограничения — потери, присущие квантованию, зависимость производительности от аппаратного обеспечения и backend, а также необходимость корректной настройки vLLM или совместимого движка; README не рекомендует Marlin из-за более низкой скорости. Модель распространяется по лицензии Apache-2.0 и совместима с Hugging Face Transformers, vLLM, SGLang и KTransformers.

brian-learns/Qwen3.6-27B-NVFP4-GGUF — квантизированная модель семейства Qwen, основанная на Qwen3.6-27B от Alibaba и подготовленная с помощью NVIDIA Model Optimizer. Это авторегрессионный трансформер с гибридным механизмом внимания Gated DeltaNet и Gated Attention, содержащий 27 млрд параметров; веса и активации линейных слоёв сведены к формату NVFP4, что сокращает требования к дисковому пространству и памяти GPU примерно в 2,5 раза относительно 16-битного варианта. Модель предназначена для диалоговых приложений, AI-агентов, чат-ботов, RAG-систем и других приложений с генерацией текста. Она принимает текст, изображения и видео, выдаёт текст и поддерживает контекст до 262 тысяч токенов. В карточке заявлена интеграция с vLLM и оптимизация для GPU NVIDIA Hopper и Blackwell; метаданные репозитория указывают формат GGUF и интерфейс вызова инструментов. Модель может отвечать неточно, пропускать важные сведения или выдавать нерелевантный и повторяющийся текст; унаследованные от обучающих данных предубеждения могут приводить к токсичным ответам. Разработчик указывает лицензию Apache-2.0 и допускает коммерческое и некоммерческое применение.

Tachibana-Agent — дообученная модель Sequelbox на базе Qwen3.6-27B, созданная для агентного программирования и сложных задач разработки. Модель обучена на наборе Tachibana 4; карточка указывает 22,3 млрд параметров, контекст 262 144 токена и лицензию Apache-2.0. Для работы с моделью предназначена библиотека Transformers. Модель помогает решать практические задачи разработки на Python, C, C++, C#, Go, TypeScript, Java, JavaScript, Rust, Haskell и других языках: отладки, автоматизации, проектирования систем и оптимизации производительности. В метаданных также указан тег image-text-to-text, однако README описывает модель прежде всего как агентную модель для программирования и не раскрывает сценарии работы с изображениями. Ограничения качества и результаты оценок в карточке не приведены; автор обозначает модель как экспериментальную.

unsloth/Qwen3.6-27B-UD-MLX-6bit — это 6-битная MLX-квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель предназначена для локального запуска в экосистеме MLX и относится к классу причинных языковых моделей с vision encoder, поэтому поддерживает работу с текстом и изображениями. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; модель обучалась на этапах предварительного и последующего обучения. Основные сценарии применения включают агентное программирование, работу с фронтенд-задачами, анализ репозиториев и итеративную разработку с сохранением контекста рассуждений. Данные о поддерживаемых языках в README не указаны. К сильным сторонам относятся большой контекст, сочетание языковых и визуальных возможностей, оптимизация для MLX и акцент на задачах программирования. Ограничения связаны с необходимостью совместимого MLX-окружения и потерями точности, которые могут быть обусловлены 6-битной квантизацией; количественная оценка таких потерь в README не приведена. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Uncensored-Heretic-DSV4Pro-GLM52-SFT-GPT55-RL-Coding-VL-MTP-GGUF — экспериментальная модель в формате GGUF, опубликованная nerkyor на основе Merkyor/Qwen3.6-27B-DSV4Pro-Thinking-Distill и производной от Qwen3.6-27B DSV4Pro / GLM-5.2 SFT / GPT-5.5 RL Coding. Это плотная модель с 27 млрд параметров, ориентированная прежде всего на программирование, рассуждения, диалог и исследование снижения склонности к отказам. Заявлены поддержка английского и китайского языков, а также мультимодальный сценарий image-text-to-text через отдельный vision-language projector. Основной GGUF-файл предназначен для генерации текста и является единственным обязательным артефактом. Дополнительный mmproj подключает обработку изображений, а MTP draft GGUF может использоваться как боковая модель для speculative decoding. Доступны варианты квантования от Q3 до Q8 и исходный BF16; конкретный контекст в предоставленных данных не указан, однако для некоторых тестов упоминается режим 32K. Модель демонстрирует сильные результаты на MMLU, GPQA и LiveCodeBench: для варианта Q8 указаны 91,2% на MMLU500, 85,35% на GPQA198 и 81/100 на LCB100. Все заявленные GGUF-варианты показали нулевой показатель жёстких отказов на 140 тестовых запросах, но это исследовательский прокси, а не подтверждение безопасности или универсальной корректности. Ограничениями являются экспериментальный характер, возможные ошибки и зависимость качества от уровня квантования; модель не предназначена для неконтролируемой высокорисковой автоматизации. Лицензия указана как other, без дополнительных условий в предоставленной карточке.

llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved — производная модель автора llmfan46 на основе Qwen/Qwen3.6-27B. Это мультимодальная причинная языковая модель с визуальным энкодером на 27 млрд параметров; в версии сохранены все 15 компонентов MTP, а параметры модели изменены для снижения числа отказов. Она предназначена для диалогов, работы с изображениями, программирования и агентных сценариев, включая вызовы инструментов. Модель принимает текст и изображения и генерирует текст; заявленный нативный контекст — 262 144 токена с расширением до 1 010 000. В README приведены результаты тестов на отказах и MMLU, однако они не гарантируют качество на других задачах. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Qwen3.6-28B — производная модель 0xSero на основе Qwen/Qwen3.6-35B-A3B, сокращённая методом REAP с последующим дообучением LoRA на открытых рассуждениях Claude Opus. Это причинная языковая модель семейства Qwen3.5 MoE для генерации текста и диалогов. После удаления 20% экспертов в каждом слое осталось около 28 млрд параметров, из которых активны примерно 3 млрд. Веса представлены в BF16; исходная архитектура имеет 40 слоёв и MoE-маршрутизацию. Модель предназначена для диалогов, задач на рассуждение и программирование, а также создания структурированных ответов, например JSON и Mermaid. В README заявлена калибровка с избытком примеров структурированного вывода, поэтому такие сценарии могли повлиять на сохранённые экспертовые способности. Указаны лицензия Apache-2.0 и библиотека Transformers. Оценки качества в карточке представлены шаблонными значениями, поэтому по ним нельзя судить о сравнительной производительности. Для задач в стиле GSM8K точность зависит от наличия достаточного бюджета токенов для цепочки рассуждений; калибровка структурированного вывода переориентирована на JSON и Mermaid. Поведение отказов унаследовано от базовой модели и дообучения.

Qwen3.6-35B-A3B-NVFP4 — это посттренированная квантованная версия открытой модели Qwen3.6-35B-A3B, разработанной командой Qwen и опубликованной пользователем ykarout. Модель представлена в формате Hugging Face Transformers и предназначена для генерации текста, программирования, агентных сценариев и обработки задач с изображениями благодаря архитектуре с vision encoder. Модель использует причинную языковую архитектуру с Mixture of Experts: всего 35 млрд параметров, из которых активируется около 3 млрд. Она включает 40 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общего активируемого эксперта, а также сочетает Gated DeltaNet и Gated Attention. Квантование выполнено в формате NVFP4 с 4-битными весами и FP8 KV-кэшем; конфигурация оптимизирована для архитектуры NVIDIA Blackwell. Нативная длина контекста составляет 262 144 токена, с заявленной возможностью расширения до 1 010 000 токенов. Поддерживаемые языки в README не указаны. Сильными сторонами модели заявлены агентное программирование, работа с интерфейсами и репозиториями, сохранение контекста рассуждений между сообщениями и высокая эффективность за счёт MoE-архитектуры и квантования. Ограничения включают зависимость производительности от совместимого программного и аппаратного окружения, особенно при использовании Blackwell-оптимизаций, а также возможные потери качества, характерные для 4-битного квантования. В README приведены результаты SWE-bench, включая 73,4 для SWE-bench Verified и 67,2 для SWE-bench Multilingual, но полная методика оценки не описана. Лицензия — Apache 2.0.

Это GGUF-представление модели Qwen3.6-35B-A3B от команды Qwen компании Alibaba, подготовленное FreedomAISVR и основанное на NVFP4 Fast-квантизации Unsloth. Модель мультимодальная, с архитектурой MoE: 35 млрд параметров всего и около 3 млрд активных на токен; текстовая часть использует 40 слоёв с гибридом Gated DeltaNet и полнослойного внимания, а для изображений и видео предусмотрен визуальный энкодер на базе SigLIP. В репозитории есть файл модели NVFP4 и отдельный vision-проектор F16. Модель предназначена для диалогов, анализа изображений и видео, работы с инструментами и агентных задач, включая программирование. Заявлены контекст 262 тыс. токенов с возможностью расширения через YaRN и поддержка Multi-Token Prediction для ускорения декодирования. README сообщает о более высокой пропускной способности Fast-варианта по сравнению с другими NVFP4-квантованиями при конкурентных результатах бенчмарков; фактическая скорость зависит от оборудования и среды запуска. Для полной выгрузки на GPU рекомендуется не менее 32 ГБ видеопамяти; оптимальная производительность заявлена на NVIDIA Blackwell B200. Модель распространяется по лицензии Apache-2.0. Это производная модель в формате GGUF с NVFP4-квантизацией; для обработки изображений нужен отдельный файл vision-проектора. Указаны английский и китайский языки, поэтому качество на других языках не следует считать подтверждённым.

Qwen 3.6 35B-A3B REAP-48 v2 — опубликованная Crucible версия модели Qwen/Qwen3.6-35B-A3B с удалением 48% маршрутизируемых экспертов и квантованием весов в формате GGUF для llama.cpp. Модель предназначена для генерации текста и диалогов; в карточке также приведены результаты задач программирования и вызова инструментов. Указанный размер файла — 8,78 ГиБ. По сравнению с v1 версия v2 перераспределяет точность квантования по измеренной чувствительности тензоров и использует калибровку с шаблоном чата. В README приведены результаты HumanEval+, MBPP+ и BFCL-simple, а также измерения скорости на отдельных устройствах и бэкендах. Производительность i-quants на CUDA, Vulkan и CPU-only сборках не проверялась, поэтому её следует оценивать на целевой платформе. Для некоторых конфигураций llama.cpp README отдельно требует совпадения параметров batch и ubatch: их несоответствие может искажать вычисления. Лицензия — Apache-2.0.

Это мультимодальная модель llmfan46 на архитектуре Qwen3.5 MoE: дообученная версия Qwen/Qwen3.6-35B-A3B с визуальным энкодером и причинной языковой моделью. В репозитории сохранены все 19 MTP-компонентов исходной модели; автор также сообщает о применении abliteration для ослабления ограничений на ответы. Модель содержит 35 млрд параметров, из которых активируются 3 млрд, и использует 40 слоёв с MoE. Нативное контекстное окно составляет 262 144 токена и может расширяться до 1 010 000 токенов. Модель предназначена для диалогов с текстом и изображениями, анализа изображений, агентного программирования, работы с репозиториями и вызова инструментов. Архитектура и карточка базовой модели указывают на мультимодальные возможности, но отдельные оценки в README приведены для исходной Qwen3.6, поэтому их нельзя считать результатами именно этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Qwen3.6-KAT-BigBang-SLERP — текстовая MoE-модель, созданная слиянием SLERP двух дообученных моделей на базе Qwen3.6-35B-A3B: KAT-Coder-V2.5-Dev от Kwaipilot и BigBang-v1 от endless-frontier. Репозиторий предоставляет веса в формате GGUF; в README описана версия APEX Mini размером около 13,5 ГБ. Архитектура исходной модели включает 35 млрд параметров, из которых активируется около 3 млрд, 40 слоёв гибридного внимания и контекст до 262 тысяч токенов. Модель предназначена для генерации текста, агентного программирования, вызова инструментов и задач рассуждения. Слияние сочетает кодовые и агентные возможности KAT-Coder с уклоном BigBang в рассуждения; карточка приводит результаты тестирования одной квантованной версии в ограниченной по памяти конфигурации, но подчёркивает, что слияние систематически не оценивалось. Модель принимает и выдаёт текст; визуальная башня и голова MTP в результат не включены. Лицензия — Apache-2.0. Среди ограничений указаны возможные галлюцинации, нестабильное долгосрочное планирование и чувствительность к формату запроса; квантование с потерями может снижать точность. Для запуска GGUF README рекомендует llama.cpp b10516 или новее с поддержкой указанной архитектуры.

Qwen3.6-35B-A3B KMP Dev — производная от Qwen3.6-35B-A3B модель, подготовленная для разработки на Kotlin Multiplatform и использования инструментов агентами. По README, разработчик применил прореживание экспертов, оставив наиболее активные эксперты для Kotlin, Swift, связанных библиотек и фреймворков, а также для английского и русского языков. Модель распространяется в формате MLX с 3-битной квантизацией; в метаданных указаны 2,9 млрд параметров и контекст до 262 144 токенов. Архитектура — MoE с чередованием слоёв внимания и SSM (Gated DeltaNet); README описывает 40 слоёв, 150 экспертов на слой и 8 активных экспертов. Модель предназначена для генерации кода и ответов по Kotlin Multiplatform, Swift, Gradle и перечисленным в карточке экосистемам, а также для диалогов, рассуждений и вызова инструментов. Поддерживает английский и русский; лицензия — Apache 2.0. Узкая специализация получена удалением экспертов, связанных с рядом других языков программирования и тематик, поэтому модель не подходит как универсальный помощник по этим областям. README предупреждает, что один из вариантов GGUF IQ1_M зацикливается при использовании инструментов; это предупреждение относится к указанному варианту, а не обязательно к MLX-сборке.

mergekit-community создал эту плотную авторегрессионную языковую модель объединением методом TIES инструктивной Qwen2.5-7B-Instruct с моделями Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. Она распространяется в формате safetensors и работает с библиотекой Transformers. Модель предназначена для диалогов и генерации текста с акцентом на программирование и математические задачи; метаданные также указывают интерфейс для вызова инструментов. Объединение переносит возможности трёх исходных инструктивных моделей в один чекпойнт, однако README не приводит сравнительных оценок качества или результатов тестирования. Языки в предоставленных данных не обозначены. Лицензия в предоставленных данных не указана.

ISTA-DASLab/Qwen3.8-27B-3Bit-GSQ — это квантованная версия Qwen/Qwen3.8-27B, опубликованная ISTA-DASLab и созданная с применением метода GSQ (Gumbel-Softmax Quantization). Модель предназначена для рассуждений, программирования, научных и общих текстовых задач, многоязычного понимания, обработки длинного контекста и агентских сценариев. В контрольную выборку для квантования также входили математические, кодовые, научные, мультиязычные и длинноконтекстные данные. Веса transformer-корпуса квантованы до 3 бит с размером группы 128. Слой эмбеддингов и LM head квантованы отдельно до 4 бит методом RTN с размером группы 64 для сохранения качества вывода и эмбеддингов. Контрольная точность на AIME 2025 составила 100%, а на GPQA Diamond — 91,41% в одном прогоне; авторы предупреждают о значительной вариативности таких результатов. Чекпойнт поддерживает vision-компоненты, однако они не калибровались на мультимодальных данных, поэтому качество работы с изображениями может быть ограничено. Размер составляет около 11,83 ГБ с vision-компонентами и 10,90 ГБ в text-only режиме. Для сервинга через vLLM требуется версия 0.27.1 и специальный патч для поддержки квантованных embedding-весов. Спекулятивное декодирование не поддерживается: компоненты MTP удалены из опубликованного чекпойнта. Лицензия — Apache-2.0.

nicosuter/Qwen3.8-27B-AWQ — это мультимодальная квантованная версия модели Qwen/Qwen3.8-27B, подготовленная разработчиком nicosuter. Модель предназначена для обработки текста и изображений, включая программирование, математические и научные задачи, вызов инструментов, анализ документов, таблиц и визуальных вопросов. Архитектура и исходные веса унаследованы от Qwen3.8-27B; точное число параметров — 27 млрд. В модели применяется смешанная квантализация: большинство линейных слоёв используют асимметричный AWQ W4A16 с размером группы 128, а отдельные входные проекции Gated DeltaNet квантованы в int8. Зрительный модуль, MTP head, lm_head и ряд других компонентов сохранены в исходной точности, поэтому модель сохраняет мультимодальные возможности. Калибровка включала текстовые, длинноконтекстные, визуальные и связанные с вызовом инструментов примеры длиной до 32 768 токенов, однако точный максимальный контекст модели в карточке не указан. По приведённым тестам, относительно версии Qwen3.8-27B-FP8, среднее снижение качества составило около 0,12 процентного пункта; результаты на задачах вызова функций, программирования и мультимодального анализа практически сохранились. Ограничения включают возможную потерю качества из-за квантализации и отсутствие полноценных оценок агентного применения. Модель распространяется по лицензии Apache 2.0 и использует формат compressed-tensors, совместимый с указанным стеком Transformers и llm-compressor.

cyankiwi/Qwen3.8-27B-AWQ-FP8 — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем cyankiwi. Модель предназначена для работы в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и TokenSpeed. Это плотная причинно-следственная языковая модель с vision-энкодером, поддерживающая понимание текста, изображений и видео. Она ориентирована на программирование, профессиональные и исследовательские задачи, обработку документов и STEM-материалов, а также многошаговые агентские сценарии. Доступны управляемый режим рассуждений, настройка глубины рассуждений через reasoning_effort и сохранение контекста рассуждений между сообщениями через preserve_thinking. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с возможностью расширения до 1 000 000 токенов. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер опубликованных файлов составляет 31,28 ГБ. К сильным сторонам относятся мультимодальность, длинный контекст и ориентация на сложные многошаговые задачи; конкретные ограничения производительности в представленном фрагменте README не указаны. Модель распространяется по лицензии Apache 2.0.

EschaLabs/Qwen3.8-27B-Escha-W2 — это 2-битная квантованная сборка модели Qwen3.8-27B, разработанная Escha Labs Inc. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и программирования. Она поддерживает режим thinking, в котором может формировать расширенное рассуждение перед ответом, а также совместима с OpenAI-совместимым HTTP-интерфейсом через специализированный runtime на базе SGLang. Модель сохраняет полный объём в 27 млрд параметров. Используется смешанная квантование 2/3 бита для проекций с эффективной точностью 2,469 бита на вес, а embedding и head имеют формат int8. Размер весов составляет около 10,15 ГБ, общий размер загрузки — около 10,18 ГБ. На одной видеокарте с 24 ГБ памяти заявлена работа с контекстом до 64K токенов, а при специальной настройке — до 128K; проверены RTX 5090, RTX 4090 и RTX 3090. Указан английский язык, однако README не содержит полного перечня языков или точного максимального размера контекста базовой модели. К сильным сторонам относятся существенная экономия памяти, возможность локального запуска и высокие заявленные результаты на тестах: 79,25% на Commonsense-6, 88,38% на GPQA-Diamond и pass@1 86,81% на LiveCodeBench v6. Ограничения включают зависимость от Linux x86-64, NVIDIA GPU с архитектурой sm_80 или новее, CUDA 12.8, Python 3.12 и специального runtime; видеокарты на 16 ГБ не проверялись и требуют уменьшенного контекста. Для корректной работы также важны совместимые версии PyTorch, SGLang и Transformers. Модель распространяется по лицензии Apache-2.0.

Mia-AiLab/Qwen3.8-27B-EXL3-3.5bpw — это текстовая генеративная модель на основе Qwen/Qwen3.8-27B, разработанная Mia-AiLab и представленная в формате EXL3 для запуска через exllamav3. Модель предназначена для генерации текста, программирования и задач математического и логического рассуждения, включая сценарии с длинным контекстом. Вариант использует workload-калибровку на самостоятельно сгенерированном наборе из 622 515 токенов с кодом и рассуждениями, что, по данным автора, улучшает принятие токенов при speculative decoding и поведение на целевых задачах по сравнению с общей калибровкой. Это плотная модель размером 27B с гибридной архитектурой: 48 слоёв gated-deltanet с рекуррентным состоянием и 16 слоёв full attention с KV-кэшем. Средняя точность квантования составляет 3,5 bpw, веса занимают около 14,2 ГБ; эмбеддинги и lm_head сохранены в не-квантованном формате. Модель поддерживает нативный контекст до 262 144 токенов, а через YaRN доступно расширение до 1 048 576 токенов, однако качество за пределами 262 тысяч токенов ограничено. Это текстовая модель без vision tower; конкретный набор поддерживаемых языков в README не указан. К сильным сторонам относятся небольшое потребление видеопамяти для модели такого размера, эффективная работа с длинным контекстом, встроенная MTP-голова для speculative decoding и возможность применения FP8 или NVFP4 KV-кэша в расширенной версии exllamav3. На видеокарте с 24 ГБ памяти заявлена возможность разместить веса и полный нативный контекст при использовании NVFP4 KV-кэша. Ограничения включают зависимость от exllamav3, необходимость специализированного aarch64-порта на DGX Spark/GB10 и использование форка exllamav3 для некоторых функций KV-кэша и DFlash2. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-GGUF — GGUF-квантизированная версия модели Qwen3.8-27B, подготовленная компанией ByteShape с использованием ShapeLearn. Этот метод подбирает тип данных отдельно для каждого тензора, чтобы сохранить высокое качество при малой разрядности. Модель предназначена для локального запуска на GPU через llama.cpp и поддерживает работу с изображениями благодаря встроенному vision projector. Модель ориентирована на математические задачи, программирование, общие знания, выполнение инструкций, многошаговые диалоги, мультиязычные сценарии, использование инструментов и агентные задачи. В выпуск входят пять вариантов размером от 8,8 до 13,1 ГБ и с разрядностью от 2,56 до 3,84 бит на вес, что позволяет выбирать баланс между требованиями к видеопамяти, скоростью и качеством. В GGUF также встроена MTP-голова для speculative decoding; для её использования нужен llama.cpp с соответствующими параметрами. Поддержка DFlash2 требует версии llama.cpp b10658 или новее. Сильными сторонами являются оптимизация под GPU, несколько вариантов квантизации и оценка на наборах тестов для математики, программирования, знаний, следования инструкциям и агентного использования. Ограничения включают потенциальное снижение качества по сравнению с базовой BF16-моделью из-за квантизации, необходимость подходящей видеопамяти и зависимость расширенных функций от версии llama.cpp. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B Hi-Fi (fraQtl) — это текстовая GGUF-версия модели Qwen3.8-27B, подготовленная участником сообщества fraQtl на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, включая задачи программирования, математики, общие текстовые сценарии и работу с длинным контекстом. Визуальная башня исходной модели не конвертирована, поэтому мультимодальные возможности в этой сборке отсутствуют. Модель использует квантизацию Q4_K_M с эффективностью около 4,8 бит на параметр и занимает примерно 16,5 ГБ, что ориентирует её на системы класса Snapdragon X-Elite и AI-PC, а не на смартфоны. Заявлен нативный контекст до 262 144 токенов; тестирование извлечения информации подтверждено для последовательностей длиной до 131 072 токенов. По данным README, по сравнению с эталонными сборками того же класса она обеспечивает более близкое к исходным весам поведение на задачах кода и математики, а также сопоставимые результаты на GSM8K и MATH-500. Ограничения включают возможное небольшое ухудшение качества: perplexity на Wikitext-2 выше на 0,7%, а совпадение ответов с исходной моделью в общих задачах ниже на 0,2 процентного пункта. Поддерживаемые языки отдельно не указаны. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизация модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем pearsonkyle. Модель предназначена для локального запуска через llama.cpp, Ollama или LM Studio; поддерживает генерацию текста, агентские сценарии, программирование, tool use и function calling. Указана совместимость с задачами разработки и SWE-bench. Модель имеет гибридную архитектуру с linear attention и hybrid attention, поддерживает текст и изображения через дополнительный vision-проектор mmproj размером 629 МБ. Доступны варианты IQ2_M, IQ3_M, IQ4_XS и Q5_K_M с размером файлов примерно от 9,7 до 18,3 GiB и точностью от 3,06 до 5,76 бит на параметр. Квантизация выполнена с использованием importance matrix на контексте 32 768 токенов. В каждый вариант встроена MTP-голова в формате Q8_0 для speculative decoding без отдельного файла. Рекомендуемым вариантом заявлен IQ4_XS, а Q5_K_M описан как наиболее близкий к FP16. К сильным сторонам относятся сниженные требования к памяти, поддержка длинного контекста, мультимодальность и встроенная MTP-голова. Ограничения связаны с потерями качества, неизбежными при низкобитной квантизации, а также с тем, что для обработки изображений требуется отдельный mmproj-файл. Лицензия — Apache-2.0; заявленный язык — английский.

Qwen3.8-27B-iMatrix-NVFP4-MTP-GGUF — квантизированная мультимодальная версия модели Qwen3.8-27B, разработанная автором cdiamond на основе Qwen/Qwen3.8-27B. Модель предназначена для работы в llama.cpp и сценариев, связанных с программированием, инфраструктурными задачами, вызовами инструментов, агентскими системами и обработкой изображений. Указан контекст до 256 тысяч токенов; поддержка зрения реализуется через отдельный проектор mmproj-Qwen3.8-27B-F16.gguf. Модель поставляется в формате GGUF и имеет размер 17,1 ГБ. Это смешанная квантизация примерно 5,01 BPW: основная часть весов использует NVFP4, а чувствительные матрицы внимания, Gated DeltaNet, поздние FFN-слои, эмбеддинги и выходная голова хранятся с более высокой точностью Q5_K, Q6_K или Q8_0. В GGUF встроен обученный MTP-слой для ускорения генерации. Калибровка проводилась на данных агентских сессий, включавших код, инфраструктуру, вызовы инструментов и польско-английские диалоги, однако эти данные не распространяются. Сильные стороны модели — сочетание компактного размера, поддержки длинного контекста, мультимодальности и высокой скорости на совместимом оборудовании. В описанных тестах она достигала 50,441 токена в секунду в производственной серии и обрабатывала заполненный контекст объёмом 261 500 входных токенов без усечения и нехватки памяти. Результаты зависят от GPU, версии llama.cpp и используемых патчей; часть измерений получена на локальной ветке runtime, не вошедшей на момент публикации в upstream. Модель не является дообученной версией, а представляет собой квантизацию базовой модели. Лицензия — Apache-2.0.

Это квантованная версия Qwen3.8-27B, подготовленная FreedomAISVR в формате GGUF MXFP4 для запуска через llama.cpp на видеокартах NVIDIA Blackwell. В основе — плотная мультимодальная архитектура Qwen3_5ForConditionalGeneration с языковой частью на 27 млрд параметров и отдельным визуальным проектором; веса модели используют MXFP4, проектор — F16. Карточка указывает лицензию Apache-2.0. Модель предназначена для диалогов с текстом и изображениями, анализа видео, программирования, профессиональных и исследовательских задач, а также многошагового планирования и работы с агентскими сценариями. Режим рассуждений включён по умолчанию; его можно отключать и настраивать глубину. В README приведены примеры запуска с контекстом 32K и тесты производительности на RTX 5060 Ti 16GB, но это рекомендованные настройки и результаты для конкретной конфигурации, а не гарантии для другого оборудования. Квантизация уменьшает размер текстовых весов примерно до 14,2 ГБ; для обработки изображений также нужен визуальный проектор около 928 МБ. README рекомендует видеокарты RTX 50-й серии с 16 ГБ видеопамяти и не менее 16 ГБ оперативной памяти. Указанный в README контекст 32K — настройка примера запуска, а не подтверждённый максимальный контекст модели. Качество и скорость могут зависеть от оборудования и сборки llama.cpp.

TelperionAI/Qwen3.8-27B-NVFP4-AWQ-GPTQ — это квантованная версия базовой модели Qwen/Qwen3.8-27B, опубликованная под лицензией Apache-2.0. Модель предназначена для запуска большой языковой модели с меньшими требованиями к памяти, прежде всего в задачах генерации и обработки текста, включая программирование, математику, STEM, диалоги и многоязычные сценарии. В README также указана поддержка speculative decoding через MTP и возможность FP8-квантизации KV-кэша. Модель использует смешанную точность: основные MLP-слои квантованы в NVFP4 с группами размера 16 и FP8-масштабами, часть MLP-слоёв, attention- и GDN-модули работают в динамическом FP8, а эмбеддинги, lm_head, нормализации, параметры состояния GDN, MTP-голова и vision tower сохранены в BF16. Квантизация выполнена методом AWQ с последующим GPTQ и калибровкой на сбалансированном наборе данных из кода, математики, STEM, диалогов и многоязычных текстов. Размер чекпойнта составляет около 24,7 ГБ. По приведённому сравнению модель точнее других рассмотренных NVFP4-чекпойнтов и заметно компактнее FP8-версии, сохраняя высокую скорость инференса. AWQ повышает устойчивость к потере качества без увеличения размера или снижения пропускной способности. Ограничения включают необходимость Blackwell-класса GPU, совместимый vLLM с compressed-tensors и то, что оценка проводилась только на одном внутреннем корпусе; качество vision tower отдельно не оценивалось. Acceptance rate для MTP не измерялся.

medismera представил производную модель Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на основе слияния Qwen3.8-27B-OBLITERATED и Qwen/Qwen3.8-27B. Это плотная модель семейства Qwen3.5 с 27 млрд параметров для диалоговой генерации текста и работы в агентных сценариях. В карточке заявлены шаблон чата с поддержкой вызова инструментов, разбиение задач на иерархические этапы, протокол самопроверки рассуждений и контекст до 131 072 токенов; максимальная длина генерации указана как 16 384 токена. Модель предназначена для программирования, анализа системных журналов и телеметрии, многошаговых технических задач и взаимодействия с инструментами через совместимые агентные среды. Указаны английский, китайский и арабский языки. Репозиторий описывает веса в формате Safetensors и приводит варианты BF16, FP8 и AWQ в ветках; для запуска рекомендуются SGLang и vLLM. Лицензия — Apache-2.0. Заявления README о качестве вызова инструментов, результатах бенчмарков и отсутствии отказов приведены автором и не являются независимой оценкой. Это текстовая модель: метаданные не указывают вход или выход изображений, несмотря на мультимодальные возможности базовой модели.