I.5Создание и редактирование текста

Aimin12/Qwen3-4B-Thinking-2507-Distill-Claude-Opus-4.6-Reasoning-Abliterated — плотная языковая модель семейства Qwen3 с 3,7 млрд параметров для генерации текста и диалоговых ответов. Модель дообучена на наборе Opus-4.6-Reasoning-3000x-filtered; в README указаны LLaMA-Factory и Unsloth как использованные инструменты обучения. Модель принимает текст и выдаёт текст. Её контекстное окно составляет 262 144 токена. Карточка связывает её с базовой Huihui-Qwen3-4B-Thinking-2507-abliterated, описанной в каталоге как Qwen3 с уменьшенной склонностью к отказам. Репозиторий распространяется под лицензией Apache-2.0.

TeichAI/Qwen3-4B-Thinking-2507-Gemini-2.5-Flash-Distill-GGUF — языковая модель для генерации текста, созданная TeichAI на основе Qwen3-4B-Thinking-2507. Модель обучалась методом дистилляции на наборе TeichAI/gemini-2.5-flash-11000x, чтобы воспроизводить поведение, рассуждения, стиль ответов и знания Gemini 2.5 Flash. Указана лицензия Apache-2.0. Модель предназначена для программирования, научных и юридических задач, работы с историческими и маркетинговыми текстами, а также для применения общего назначения. Она поддерживает текстовую генерацию; в README указан английский язык. Архитектура относится к семейству Qwen3 с размером около 4 млрд параметров, однако сведения о длине контекста, точной структуре GGUF-квантизации и дополнительных модальностях не приведены. По опубликованным тестам модель превзошла базовую Qwen3-4B-Thinking-2507 в пяти из шести сравнений: ARC-Challenge, GPQA Diamond, HellaSwag, MMLU и Winogrande. Среднее улучшение составило 0,0191, при этом результат TruthfulQA оказался немного ниже базовой модели. Эти показатели характеризуют результаты на указанных наборах тестов и не гарантируют аналогичное качество в прикладных сценариях; возможны ошибки, особенно в сложных вопросах и задачах, требующих фактической точности.

ArliAI/Qwen3.5-27B-Derestricted — модифицированная версия Qwen3.5-27B, разработанная Arli AI. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального понимания изображений. Её ключевая особенность — уменьшение или удаление поведения, связанного с отказами в ответах, при сохранении возможностей исходной модели. Модель содержит около 27 млрд параметров и построена как каузальная языковая модель с vision encoder. В архитектуре сочетаются Gated Delta Networks и разреженная Mixture-of-Experts; языковая часть включает 64 слоя. Заявлена поддержка 201 языка и диалекта. Модель совместима с Transformers, vLLM, SGLang и KTransformers. Точный размер контекста в предоставленных данных не указан. Для модификации применён метод Norm-Preserving Biprojected Abliteration: направление, связанное с отказами, удаляется с сохранением исходных норм весов. Это потенциально помогает сохранить рассуждения и общую производительность лучше, чем стандартная abliteration, однако приведённые в README утверждения о преимуществах основаны на заявлениях разработчика и не сопровождаются конкретными результатами тестов. Отсутствие защитных отказов расширяет область применения, но повышает риск генерации небезопасного или вредоносного контента. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-35B-A3B-Base-Kazakh — базовая языковая модель, адаптированная Исследовательским институтом искусственного интеллекта Казахстана (ISSAI) продолженным предобучением исходной Qwen/Qwen3.5-35B-A3B-Base. Архитектура — разреженная MoE-модель для генерации текста; в метаданных указано 2,9 млрд параметров и контекст до 262 144 токенов. Модель расширяет токенизатор на 16 тысяч казахских токенов и обучена на корпусе примерно из 15,9 млрд токенов с равной долей казахского и английского текста. Модель предназначена для генерации текста на казахском и английском языках, особенно для задач, где важны казахская беглость и знания при сохранении возможностей исходной модели на английском. В корпус также включены материалы по математике, энциклопедические и культурные данные, вопросы и ответы, а также код, однако README не заявляет специализированные гарантии для этих задач. Это базовая модель, предоставленная в формате safetensors для Transformers; лицензия — Apache-2.0. Для диалогового применения может потребоваться дополнительная настройка, поскольку карточка описывает продолженное предобучение, а не отдельное обучение инструкциям.

JunLee88999/Qwen3.5-35B-A3B-heretic-v2-GGUF — GGUF-квантизации модели Qwen3.5-35B-A3B, разработанной командой Qwen. Это децензурированная версия, созданная на основе llmfan46/Qwen3.5-35B-A3B-heretic-v2 с применением Heretic v1.2.0, Magnitude-Preserving Orthogonal Ablation и Self-Organizing Map Abliteration. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального понимания изображений и текста. Архитектура исходной Qwen3.5 включает гибридные Gated Delta Networks и разреженную Mixture-of-Experts; размер модели — 35B с конфигурацией A3B. Указана поддержка 201 языка и диалекта. Для мультимодальной работы требуется отдельный vision projector в формате GGUF; доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами, поддерживающими GGUF. Главная особенность версии — значительно меньшее количество отказов по сравнению с оригинальной моделью: 4 из 100 против 91 из 100, при заявленном KL divergence 0,0411, что указывает на относительно хорошее сохранение исходных возможностей. При этом снятие ограничений может повысить риски генерации нежелательного или небезопасного контента. README не содержит сведений о длине контекста и подробных результатах независимого тестирования. Лицензия — Apache-2.0.

Qwen3.5-35B-A3B-quantized.w4a16 — это квантованная мультимодальная языковая модель на базе Qwen/Qwen3.5-35B-A3B, опубликованная пользователем apolo13x. Базовая модель разработана командой Qwen. Модель принимает текст и изображения, а генерирует текст, поэтому предназначена для диалоговых сценариев, анализа изображений, ответов на вопросы и других задач преобразования мультимодального ввода в текст. Модель использует архитектуру Qwen3.5 с разреженной MoE-конфигурацией 35B-A3B, где общий размер составляет около 35 млрд параметров, а активируется примерно 3 млрд параметров. Веса квантованы до INT4 в формате GPTQ с конфигурацией W4A16 с использованием llm-compressor. Это уменьшает размер модели с 67,0 до 20,4 ГБ, примерно в 3,3 раза, при среднем восстановлении точности 99,5% относительно исходной модели. В указанных тестах модель показала 81,31% на GPQA Diamond, 94,60% на IFEval и 91,95% на MMLU-Redux. Сильной стороной модели является существенное снижение требований к хранению и инференсу при сохранении близкой к исходной точности. Ограничения связаны с потерями, возможными при 4-битном квантовании, а также с тем, что на 27 февраля 2026 года модель поддерживалась в nightly-версии vLLM, что может означать менее стабильную совместимость по сравнению со стабильными релизами. Сведения о размере контекстного окна и поддерживаемых языках в README не указаны. Модель распространяется по лицензии Apache-2.0.

QuantTrio/Qwen3.5-4B-AWQ — это AWQ-квантизированная версия мультимодальной модели Qwen3.5-4B, разработанной командой Qwen. Репозиторий содержит веса и конфигурацию в формате Hugging Face Transformers; квантизация выполнена без использования калибровочных данных. Модель предназначена для задач понимания и генерации текста, работы с изображениями, рассуждений, программирования и агентских сценариев. Модель представляет собой причинную языковую модель с vision encoder и гибридной архитектурой, объединяющей Gated Delta Networks и разреженный Mixture-of-Experts. Она содержит около 4 млрд параметров, 32 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Доступны интеграции с Transformers, vLLM, SGLang и KTransformers, а также поддержка tool calling и reasoning parser в vLLM. К сильным сторонам относятся мультимодальность, большой контекст, относительно небольшой размер и оптимизация AWQ для более эффективного инференса. Ограничения связаны с необходимостью совместимого программного и аппаратного окружения: в README указаны vLLM версии не ниже 0.16.0rc2.dev447, экспериментальная версия Transformers, CUDA 12.8 и дополнительные исправления конфигурации. Конкретные значения производительности в README не приведены. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.5-4B-FP8-dynamic — мультимодальная модель RedHatAI, созданная на основе Qwen/Qwen3.5-4B. Она принимает текст и изображения, а генерирует текст, поэтому предназначена для диалогов, анализа изображений, ответов на вопросы, следования инструкциям и решения задач рассуждения. Указанная конфигурация рассчитана на инференс через vLLM и поддерживает текстовый режим с пониженным потреблением памяти. Модель использует архитектуру Qwen/Qwen3.5-4B и контекст до 262 144 токенов при развертывании с рекомендованными параметрами. Веса и активации линейных операторов внутри трансформерных блоков динамически квантизированы в FP8; для активаций применяется масштабирование на уровне тензора без калибровочных данных. Размер на диске составляет около 8,0 ГБ вместо 9,3 ГБ у версии BF16, что уменьшает требования к памяти примерно на 14%. Языки в README не указаны. По опубликованным оценкам, квантизация в целом сохраняет качество базовой модели: результаты на GSM8k-Platinum, MMLU-Pro, IFEval, Math 500, AIME 2025 и GPQA Diamond близки к показателям исходной Qwen/Qwen3.5-4B. Ограничения включают отсутствие подробных сведений о языковой поддержке и аппаратных требованиях; качество также может зависеть от поддержки FP8 и используемого рантайма. Модель распространяется по лицензии Apache-2.0.

Smoffyy/Qwen3.5-4B-Instruct-Pure-GGUF — это GGUF-квантизированная версия официальной модели Qwen3.5-4B, разработанной командой Qwen. Автор репозитория создал её с помощью официальных инструментов llama.cpp, напрямую преобразовав исходные веса без модификаций и дополнительных настроек. Модель предназначена для локального запуска в приложениях на базе llama.cpp и совместимых инструментах. Модель поддерживает мультимодальные сценарии с текстом и изображениями; для включения возможностей компьютерного зрения требуется отдельный файл mmproj-f16.gguf. Архитектура исходной Qwen3.5 описывается как гибридная и включает Gated Delta Networks и разреженную Mixture-of-Experts. Указана поддержка 201 языка и диалекта. В README приведён пример запуска с контекстом 64K: для квантизации q4_k_m такое использование требует около 7 ГБ памяти GPU. Режим рассуждений можно включать или отключать через параметр enable_thinking в запросе или конфигурацию шаблона чата. К сильным сторонам относятся близость к официальным весам, доступность различных уровней квантизации и возможность локального использования на ограниченном оборудовании. К ограничениям относятся потенциальная потеря качества из-за квантизации, зависимость требований к памяти от выбранного варианта и необходимость дополнительного multimodal-проектора для работы с изображениями. Модель и производные распространяются по лицензии Apache 2.0.

Qwen3.5-4B-OptiQ-4bit — это квантизированная версия языковой модели Qwen/Qwen3.5-4B, разработанная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для локального запуска генеративных задач на компьютерах Apple Silicon через MLX, без PyTorch и облачной инфраструктуры: генерации и понимания текста, рассуждений, программирования, следования инструкциям, вызова инструментов и агентских сценариев. Модель использует смешанную чувствительно-ориентированную квантизацию: 173 слоя имеют точность 4 бит, а 75 наиболее чувствительных слоёв — 8 бит; всего квантизировано 248 слоёв. Размер группы составляет 64, размер модели на диске — около 3,0 ГБ. В комплект входит MTP-голова для speculative decoding, которая при использовании mlx-optiq может обеспечивать примерно 1,4-кратное ускорение декодирования. Доступны текстовые сценарии; другие модальности, языки и размер контекста в README не указаны. По приведённым тестам модель превосходит равномерную 4-битную квантизацию на задачах общих знаний, математики, следования инструкциям, вызова функций, программирования и поиска в длинном контексте. Ограничения включают зависимость от экосистемы MLX и Apple Silicon, а также потери точности, неизбежные при квантизации; заявленные результаты относятся к конкретной методике оценки. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

mradermacher/Qwen3.5-9B-Brainwaves-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе nightmedia/Qwen3.5-9B-Brainwaves. Это модель примерно на 9 млрд параметров; в README она также обозначена как vision model, однако подробности о визуальной архитектуре и поддерживаемых типах входных данных не приведены. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, математических и STEM-задач, исследовательских сценариев, а также творческого письма и ролевого взаимодействия. Заявлена поддержка английского, китайского, японского и испанского языков. Репозиторий содержит варианты квантования i1 от Q2_K до Q6_K и IQ-квантов, что позволяет выбирать между размером файлов, скоростью и качеством; рекомендуемым вариантом назван i1-Q4_K_M. К сильным сторонам относятся разнообразие доступных квантов и возможность запуска через совместимое с GGUF программное обеспечение. Ограничения — отсутствие в README подробных сведений об архитектуре, точном размере контекста, результатах тестирования и фактических возможностях vision-компонента; квантование может снижать качество по сравнению с исходной моделью. Указанная лицензия — Apache-2.0.

FreedomAISVR публикует квантованную в NVFP4 модель Qwen3.5-9B-Instruct в формате GGUF. Это мультимодальная модель семейства Qwen на 9 млрд параметров для диалога и выполнения инструкций; карточка указывает поддержку генерации текста, понимания изображений, рассуждений и генерации кода. В архитектуре сочетаются GQA и MLA, чередование блоков SSM (Mamba-2), а для изображений используется визуальный энкодер SigLIP ViT с мультимодальным проектором. Режим рассуждений по умолчанию выключен. Квантование NVFP4 рассчитано прежде всего на ускорение инференса на GPU NVIDIA Blackwell с 4-битными тензорными ядрами. В репозитории есть текстовая модель размером 5,31 ГБ и проектор изображений F16 размером 0,92 ГБ. Для запуска с изображениями README описывает использование llama.cpp и отдельного файла проектора. Метаданные указывают лицензию Apache-2.0. Модель подходит для диалоговых помощников, ответов на вопросы об изображениях, программирования и многоязычных текстовых задач. README рекомендует традиционные форматы квантования для оборудования до поколения Blackwell, GPU AMD и CPU; качество и скорость этой сборки на иных конфигурациях не охарактеризованы. Языковая поддержка включает английский, китайский и другие языки, но основной язык для этой сборки не выделен.

FastFlowLM/Qwen3.5-9B-NPU2 — мультимодальная каузальная языковая модель с vision encoder, основанная на Qwen/Qwen3.5-9B. Модель предназначена для обработки текста и изображений, включая задачи рассуждения, программирования, работы с агентами и визуального понимания. Она поставляется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 9 млрд параметров, 32 слоя и использует гибридную архитектуру Gated Delta Networks со sparse Mixture-of-Experts и Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта, однако подробные сведения о распределении качества между языками в README не приведены. Сильными сторонами являются мультимодальность, длинный контекст, высокая эффективность архитектуры и ориентация на производительный инференс с низкой задержкой. Ограничения, требования к аппаратному обеспечению и характеристики варианта NPU2 отдельно не описаны; приведённые результаты тестов относятся к базовой Qwen3.5-9B и не обязательно отражают поведение FastFlowLM/Qwen3.5-9B-NPU2. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9b-Opus-Openclaw-Distilled-i1-GGUF — это квантизированная в формате GGUF версия модели Qwen3.5-9b-Opus-Openclaw-Distilled. Исходную модель разработал ykarout, а квантизацию выполнил mradermacher. Модель основана на Qwen3.5 и имеет размер около 9 млрд параметров. Модель предназначена для генерации текста, диалоговых сценариев, reasoning-задач, агентских приложений и использования инструментов. В метаданных заявлены поддержка vision, conversational- и agentic-сценариев, а также интеграция с Transformers и text-generation-inference. Указаны языки: английский, арабский, испанский, латынь, турецкий, немецкий, чешский и китайский. Контекстное окно и точная архитектура в README не указаны. Основное преимущество — наличие набора GGUF-квантизаций разных размеров, включая imatrix-вариант, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. При этом низкобитные варианты могут заметно снижать качество; README отдельно характеризует некоторые из них как предназначенные для крайних случаев или имеющие низкое качество. Для обработки изображений могут потребоваться дополнительные mmproj-файлы из связанного репозитория. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.5-9B-quantized.w4a16 — квантованная версия мультимодальной модели Qwen3.5-9B, разработанная RedHatAI на базе модели Qwen от Qwen. Она принимает текст и изображения, а генерирует текст; модель предназначена для диалоговых приложений, анализа визуальной информации, выполнения инструкций и задач рассуждения. Для работы рекомендуется использовать vLLM, поддерживаются мультимодальный и текстовый режимы. Модель содержит около 9 млрд параметров и использует квантование весов INT4 по схеме W4A16 при сохранении исходной точности активаций. Квантируются линейные операторы в трансформерных блоках, тогда как vision encoder, токенизаторные embeddings и linear attention layers остаются в BF16. Размер на диске составляет около 11 ГБ против 19,3 ГБ у версии BF16, что снижает требования к памяти. В конфигурации vLLM заявлена максимальная длина контекста 262144 токена. К сильным сторонам относятся существенное сокращение размера и возможность эффективного инференса при сохранении близкой к исходной точности: на опубликованных тестах результаты квантованной версии составили 97,9–100,1% от показателей базовой модели на задачах следования инструкциям. Ограничения связаны с частичным, а не полным квантованием, зависимостью от совместимого стека vLLM и отсутствием в представленном описании сведений о поддерживаемых языках и подробных характеристиках архитектуры. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это GGUF-версия модели на базе DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель создана в результате многоэтапной дообученной настройки и слияния нескольких моделей Qwen3.5 9B; в разработке также участвовал Nightmedia. Предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма, художественной прозы и ролевых сценариев. Заявлена как полностью uncensored и ориентированная на минимизацию отказов. Модель поддерживает контекст до 256k токенов, английский и китайский языки, а также обработку изображений. Для работы с изображениями требуется отдельный файл mmproj, размещённый в одной папке с GGUF-файлом. Доступны обычные и MTP-квантизации в форматах GGUF. NEO IMATRIX заявлена как технология, улучшающая точность квантизированных версий и работу с длинным контекстом, а MTP-варианты могут ускорять генерацию за счёт многотокенного предсказания. К сильным сторонам относятся высокая заявленная производительность на ряде тестов общего назначения, улучшенное следование инструкциям, режимы thinking и instruct, а также возможность запуска в стандартных приложениях, поддерживающих GGUF. Ограничения включают зависимость скорости от аппаратного обеспечения и параметров генерации; MTP-версии могут работать хуже обычных при низком уровне принятия предсказанных токенов, сложных творческих задачах или температуре выше 1. Модель не обязательно превосходит более крупные версии во всех задачах. Лицензия — Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это производная модель семейства Qwen3.5-9B, основанная на DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Она создана автором модели совместно с Nightmedia с использованием многоэтапной донастройки и слияния нескольких моделей на локальном оборудовании. Модель предназначена для общего диалогового использования, следования инструкциям, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Заявлены режимы thinking и instruct, а также полностью uncensored-поведение. Поддерживаются английский и китайский языки. Модель имеет контекст до 256k токенов и активированное зрение: для обработки изображений требуется отдельный файл mmproj. GGUF-квантизации совместимы со стандартными приложениями для запуска локальных моделей. Доступны обычные GGUF и MTP-GGUF-варианты с NEO IMATRIX-квантизацией, которая, по заявлению автора, повышает точность и качество работы в длинном контексте. MTP-варианты могут ускорять генерацию благодаря multi-token prediction, но их эффективность зависит от оборудования, настроек и показателя token acceptance; при низком acceptance обычные варианты могут работать быстрее. Сильными сторонами заявлены высокая производительность для модели такого размера, улучшенное следование инструкциям, рассуждения и результаты на ряде тестов. Ограничения включают зависимость скорости и качества от выбранной квантизации, аппаратного обеспечения и параметров генерации, а также отсутствие гарантии превосходства над более крупными моделями во всех задачах. Модель распространяется по лицензии Apache-2.0.

nbeerbower/Qwen3.5-9B-Writing-DPO — дообученная модель семейства Qwen3.5, созданная на базе Qwen/Qwen3.5-9B. Она предназначена для генерации текста в диалоге и сценариев написания текстов; в метаданных также отмечены интерфейсы чата и вызова инструментов. Модель использует плотную архитектуру Qwen3_5ForCausalLM и содержит 7,2 млрд параметров. Она работает через Transformers, распространяется в формате safetensors и имеет заявленный контекст 262 144 токена. Дообучение выполнено на наборе данных schneewolflabs/Athanorlite-DPO; название репозитория указывает на настройку для письма, однако README не содержит подробностей о стиле или качестве генерации. Базовая Qwen3.5 описана в каталоге как мультимодальная, но для этой модели указана текстовая задача text-generation. Лицензия в предоставленных данных не приведена. Возможности генерации зависят от запроса и дообучения; заявленные характеристики качества и ограничения в карточке не описаны.

Qwen3.6-25B-A3B — сжатый чекпойнт на основе Qwen/Qwen3.6-35B-A3B, опубликованный пользователем Jaso1024. Это языковая MoE-модель для диалоговой генерации текста; в конфигурации 40 слоёв и 8 активных экспертов на токен. По README, число параметров уменьшено с 34,66 млрд до 24,97 млрд, тогда как метаданные каталога указывают 2,9 млрд параметров; эти оценки расходятся. Модель распространяется в формате Transformers safetensors с шаблоном чата и рассчитана на контекст до 262 144 токенов. Чекпойнт предназначен для загрузки через Transformers и диалогового использования. Несмотря на сжатие, это крупная bf16-модель, для практического запуска обычно требуется GPU с большим объёмом памяти либо распределённая загрузка с offload. README говорит, что условия лицензии и использования наследуются от базовой модели; в метаданных лицензия обозначена как other.

Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32 — мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров, созданная слиянием NuSLERP нескольких моделей Qwen для чата, следования инструкциям и работы с изображениями. В карточке также приведены оценки на наборах задач на понимание текста и результаты измерения perplexity, расхода памяти и скорости для нескольких вариантов квантования. Модель подходит для диалогов, задач с изображениями, генерации текста и творческого письма, включая рассказы и продолжение сцен. Метаданные указывают английский, китайский, японский и испанский языки, поддержку интерфейса вызова инструментов и лицензию Apache-2.0. README не сообщает длину контекста; теги содержат упоминания 256k и 1M context, но не позволяют подтвердить конкретное значение.

Это GGUF-версия модели Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32, подготовленная mradermacher. Репозиторий содержит статические квантизации, включая варианты GGUF и мультимодальные дополнения mmproj; указан вариант F32. Базовая модель связана с nightmedia/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-F32 и классифицирована как дообучение. Модель предназначена для генерации текста в диалоговом и инструкционном формате. По тегам карточки она ориентирована на рассуждения, математику, программирование и творческое письмо, включая создание и продолжение историй; метаданные также указывают мультиязычную поддержку английского, китайского, японского и испанского языков. Лицензия — Apache-2.0. Репозиторий распространяет веса в формате GGUF, предназначенном для запуска совместимым ПО; доступные уровни квантизации различаются по размеру и могут влиять на качество. Карточка не приводит результатов сравнительных оценок или конкретных ограничений качества.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP — мультимодальная модель с 27 млрд параметров на архитектуре Qwen3.5, дообученная DavidAU совместно с участниками проекта на базе Qwen/Qwen3.6-27B. Она предназначена для диалогов общего назначения, следования инструкциям, решения задач, рассуждений, программирования и работы с изображениями. В карточке также заявлены возможности творческого письма и ролевого общения. Модель принимает текст и изображения и генерирует текст; в метаданных отмечены интерфейс вызова инструментов и поддержка зрения. Обучение включало несколько этапов дообучения и слияния, а также данные для рассуждений и письма. Указаны английский и китайский языки. Репозиторий использует Transformers и формат safetensors; лицензия — Apache 2.0. Автор сообщает об улучшениях следования инструкциям и рассуждений, однако приведённые сравнительные результаты являются заявлениями карточки и не гарантируют качество на конкретных задачах. Упомянуты также варианты GGUF-квантования с отдельными рекомендациями по настройкам MTP, но в текущих метаданных форматом репозитория указан safetensors.

Это семейство из четырёх вариантов модели Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP, подготовленное esatapedico в формате GGUF. Репозиторий объединяет NVFP4-веса основного трансформера с вариантами квантования выходного слоя, эмбеддингов и встроенной MTP-головы; размеры файлов составляют примерно 15,49–19,65 ГБ. Базовая архитектура — плотная модель на 27 млрд параметров с 64 слоями и гибридной схемой Gated DeltaNet и Gated Attention; исходный контекст — 262 144 токена. Модель предназначена для генерации текста и диалогов, а встроенная MTP-голова позволяет использовать спекулятивное декодирование в llama.cpp. Основные GGUF-файлы текстовые; для анализа изображений требуется отдельно подключить совместимый vision projector из указанного в карточке репозитория DavidAU. Карточка описывает английскую и многоязычную поддержку. NVFP4-веса рассчитаны на экономию памяти, а варианты с более точным выходным слоем призваны уменьшить ошибки квантования; автор приводит лишь предварительные наблюдения, а не полноценные бенчмарки. Лицензия — Apache-2.0.

btbtyler09/Qwen3.6-27B-GPTQ-4bit — квантизированная версия Qwen/Qwen3.6-27B, разработанная пользователем btbtyler09. Это плотная мультимодальная модель примерно на 27 млрд параметров для работы с текстом и изображениями, включая понимание изображений, генерацию текста и сценарии серверного инференса. Модель совместима с Transformers и ориентирована на использование через vLLM. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, а также полный vision encoder на базе ViT и модуль MTP для speculative decoding. Контекстное окно составляет 262 144 токена. Текстовый декодер квантизирован в INT4 методом GPTQ с компенсацией ошибок FOEM; vision encoder, MTP, эмбеддинги, нормы и LM head сохранены в BF16 или FP16. Размер модели составляет около 21 ГБ вместо примерно 50 ГБ у исходной BF16-версии. Сильной стороной является существенное сокращение требований к хранению и памяти при сохранении мультимодальности и заявленном снижении деградации perplexity: до +1,95% относительно BF16 на wikitext-2-raw-v1, против +8,45% у обычного GPTQ 4-bit. К ограничениям относятся необходимость подходящей аппаратной конфигурации для полного контекста и потенциальные проблемы совместимости с некоторыми версиями vLLM, для которых в README указан обходной патч. Модель распространяется по лицензии Apache-2.0.

Avesed/Qwen3.6-27B-INT8-W8A8 — квантованная версия базовой модели Qwen/Qwen3.6-27B, разработанной командой Qwen и подготовленной Avesed. Это плотная гибридная модель с архитектурой, объединяющей линейное внимание GatedDeltaNet и периодическое полноформатное внимание. Модель имеет vision tower и MTP head, однако в карточке указаны языки English и Chinese, а назначение обозначено как text-generation. Модель предназначена для генерации текста и задач, поддерживаемых базовой Qwen3.6-27B, включая сценарии, где важны рассуждения и работа с длинными последовательностями; точный размер контекста в README не указан. Ключевая особенность — INT8-квантизация по схеме W8A8: веса квантуются в симметричный INT8 по каналам, а активации — динамически по токенам. Большинство MLP-слоёв, полное внимание и выходная проекция GatedDeltaNet квантуются, тогда как чувствительные к качеству компоненты сохраняются в формате bf16. По заявлению автора, INT8 W8A8 обеспечивает почти отсутствие потерь качества и уменьшает требования к памяти по сравнению с полноразмерной моделью. Для запуска рекомендуется vLLM с INT8 W8A8 CUTLASS path и tensor parallelism; указана совместимость с GPU Ampere sm_80 и sm_86. Ограничения включают зависимость от подходящего программного стека и оборудования, а также отсутствие в README точных данных о контексте, производительности и качестве на конкретных наборах задач. Модель распространяется по лицензии Apache-2.0.

trymirai/Qwen3.6-27B-M — это 4-битная квантованная версия языковой модели Qwen3.6-27B, подготовленная Mirai Labs для эффективного локального запуска на устройствах Apple с Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования большой языковой модели, включая агентские задачи, диалоги и работу с длинным контекстом; подробные сведения о возможностях и ограничениях унаследованы от исходной модели Qwen3.6-27B. Ключевая особенность модели — 4-битное асимметричное целочисленное квантование с 4-битными zero points, масштабами bfloat16 и размером группы 64. Для снижения влияния выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms. Квантование выполнено после обучения и дополнительно улучшено дистилляцией с учётом квантования. По размеру и уровню квантования модель сопоставима с вариантом Unsloth Q4_K_M GGUF. В README не указаны точный размер контекста, поддерживаемые языки, архитектурные детали исходной модели и результаты конкретных оценок. Сильной стороной является компромисс между размером и качеством: по заявлению разработчиков, checkpoint находится на границе Парето по размеру и KL-дивергенции, а также оптимизирован для эффективного локального вывода на Apple silicon. Ограничение — заявлена поддержка инференса только на Apple silicon; инструкции для запуска ориентированы на macOS и пакет mirai. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Miraculix — мультимодальная разговорная модель на архитектуре Qwen3.5, опубликованная независимой лабораторией Nightmedia. Это NuSLERP-слияние нескольких моделей Qwen с компонентами для рассуждений, художественного письма и медицинской тематики. Модель содержит 27 млрд параметров; метаданные указывают поддержку изображений и текста, а карточка описывает переключение режима рассуждений через шаблон чата. Модель предназначена для диалогов и следования инструкциям, рассуждений, творческого письма и ответов на вопросы по изображениям. В README приведены результаты ARC и замеры скорости, памяти и perplexity для нескольких точностей; они зависят от формата и оборудования. Указана лицензия Apache-2.0. Медицинские компоненты и заявленные тестовые результаты не подтверждают клиническую надёжность ответов.

OBLITERATUS/Qwen3.6-27B-OBLITERATED — открытая текстовая языковая модель, разработанная OBLITERATUS на основе Qwen/Qwen3.6-27B. Модель предназначена для локальной генерации текста, диалогов, программирования, следования форматам и исследовательских задач, связанных с анализом и снижением отказов. Это не промпт-обёртка и не дообучение в обычном смысле: применён метод source-tethered ASPA, изменяющий веса модели для уменьшения отказов при сохранении исходных возможностей. Модель содержит 26,9 млрд параметров и доступна в формате bfloat16 safetensors, а также в вариантах GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0. Поддерживаются Transformers, vLLM, TGI, llama.cpp, Ollama, LM Studio, Jan и другие совместимые локальные среды. Это текстовая модель без vision encoder и мультимодальных компонентов; сведения о языках и размере контекстного окна в карточке не указаны. Для работы рекомендуется использовать современные версии runtime и корректный chat template. Ключевая особенность модели — существенно сниженный уровень отказов: по данным карточки, на внутреннем наборе из 842 парных запросов показатель отсутствия отказа составил 95,84% при прохождении проверки качества в 93,94%, а на 1 920 строках прокси-теста HarmBench — 93,65%. При этом на указанных срезах MMLU-Pro результаты совпали с базовой моделью: 51/70 на валидационном и 36/70 на отложенном срезе. Эти результаты отражают заявленные авторами проверки и не гарантируют одинаковое поведение во всех сценариях; остаточные отказы сохраняются в отдельных областях, а снижение защитных ограничений может быть нежелательно для задач, требующих встроенных механизмов безопасности. Модель распространяется по лицензии Apache-2.0. Для полной версии safetensors требуется примерно 50 ГБ локального пространства, крупнейший публичный GGUF Q8_0 занимает около 28,6 ГБ.

Qwen3.6-27B Q4KM dequant BF16 for vLLM — это преобразованная версия весов Qwen3.6-27B, подготовленная exolabs для запуска через vLLM. Исходные веса взяты из GGUF-файла Q4_K_M репозитория unsloth/Qwen3.6-27B-GGUF, деквантизированы и сохранены в формате BF16 в шардах safetensors; конфигурация и токенизатор взяты из Qwen/Qwen3.6-27B. Архитектура — плотная Qwen3_5ForConditionalGeneration; валидация описывает текстовую генерацию, а визуальная башня намеренно отсутствует. Модель предназначена для диалоговой генерации текста и развёртывания через vLLM. В README указаны успешная загрузка через Transformers CUDA и короткая генерация, а также проверка совместимости с интерфейсом vLLM completions. Для запуска автор рекомендует режим только языковой модели и максимальную длину контекста 4096 токенов. Хотя метаданные содержат тег image-text-to-text и возможность vision, данная сборка не включает визуальную башню и рассчитана на текстовый режим. Это конверсия и деквантизация исходного GGUF Q4_K_M в BF16, а не исходный чекпойнт BF16: точность ограничена исходными квантованными весами. Репозиторий не сообщает лицензию; условия использования следует сверить с лицензиями исходной модели и файла. Для запуска нужны совместимые версии vLLM и подходящее GPU-оборудование; проверка проводилась на H200 с vLLM 0.23.0.

Qwen3.6-27B-V2-abliterated-uncensored-Q4_K_M-GGUF — мультимодальная модель семейства Qwen, выпущенная Lemura Labs. Она основана на Qwen/Qwen3.6-27B и производной Jackrong/Qwopus3.6-27B-v2, дополнительно обработанной методом abliteration для снижения количества отказов. Модель предназначена для генерации текста, диалогов, рассуждений и работы с изображениями совместно с текстовыми запросами. Модель содержит около 27 млрд параметров и распространяется в формате GGUF с 4-битной квантизацией Q4_K_M и эффективной плотностью около 4,92 BPW. Размер языковой части составляет примерно 15,4 ГБ, а комплектный визуальный проектор mmproj.gguf занимает около 928 МБ и сохраняет vision tower Qwen3.6-VL. Поддерживаются английский, китайский и, согласно карточке, мультиязычные сценарии. Для запуска рекомендуется llama.cpp; ориентировочные требования составляют от 16 ГБ GPU или 24 ГБ оперативной памяти на Apple Silicon. К сильным сторонам относятся мультимодальность, совместимость со стандартными сборками llama.cpp, относительно компактный размер для модели такого класса и существенно сниженная частота отказов: 4 из 100 против 91 из 100 у исходной версии в указанном тесте. При этом Q4_K_M уступает более точным вариантам по сохранению исходных характеристик, а для обработки изображений требуется отдельный mmproj.gguf. Показатели отказов и сохранения возможностей приведены разработчиком и могут зависеть от методики оценки; абляция защитных механизмов также может повышать риски небезопасного или нежелательного использования. Модель распространяется по лицензии Apache-2.0.