II.6Документация и сопровождение разработки

Модель ericoh929/qwen3-1.7b-lamini-qlora-instruction-tuned — языковая модель Qwen3 с 1,7 млрд параметров, дообученная Ericoh929 методом supervised fine-tuning с использованием QLoRA/LoRA на части набора MBZUAI/LaMini-instruction. Адаптер LoRA объединён с базовыми весами; модель сохранена в формате safetensors как причинная языковая модель для Transformers. Модель предназначена для генерации ответов на инструкции и одношаговых вопросов и ответов. Она принимает текст в формате с полями Instruction, Input и Response; если дополнительного ввода нет, поле Input можно опустить. Поддерживаемая задача — генерация текста, архитектура — плотная Qwen3ForCausalLM, максимальная длина контекста — 32 768 токенов. В метаданных указан английский язык. Лицензия — CC BY-NC 4.0: использование допускается с атрибуцией и без коммерческого применения. Карточка не приводит результатов оценки качества; модель унаследует ограничения базовой Qwen3 и обучающих данных, поэтому ответы могут быть неточными или неподходящими для конкретного сценария.

PollardWeights/Qwen3-30B-A3B-Pollard — квантизированная версия модели Qwen3-30B-A3B, разработанная Pollard Weights на базе Qwen от Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, Ollama, LM Studio и совместимые приложения. Поддерживает только текстовый ввод; заявленный язык — английский. Модель использует архитектуру qwen3_moe и содержит около 30,5 млрд параметров. Это набор GGUF-вариантов с измеренным распределением разрядности по чувствительности отдельных слоёв, а не равномерным сжатием. Доступны варианты размером примерно от 7,54 до 25,12 ГБ: IQ1_KT, IQ3_S, IQ4_XS и Q6_K. Наименьший вариант рассчитан на устройства примерно с 10 ГБ RAM или VRAM, а Q6_K требует около 27 ГБ с запасом под контекст. Для IQ-вариантов trellis необходим ik_llama.cpp, тогда как K-кванты работают в стандартном llama.cpp. Ключевое преимущество — существенное уменьшение размера относительно версии f16: с 61,06 до 7,54 ГБ, при сохранении качества лучше равномерной однобитной trellis-квантизации по указанным тестам WikiText-2. Ограничения включают потерю качества из-за квантизации, отсутствие заявленной поддержки других модальностей и языков, а также то, что приведённые измерения выполнены на одном наборе данных и одной машине. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

lmstudio-community/Qwen3-32B-MLX-4bit — это 4-битная версия модели Qwen3-32B, разработанной Qwen и преобразованной сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска в экосистеме MLX; README не содержит сведений о конкретных прикладных сценариях, поддерживаемых языках, архитектуре, размере контекста или доступных модальностях помимо текста. Ключевая характеристика модели — 32B в названии и 4-битное квантование, что ориентировано на более эффективное использование памяти при локальном запуске, однако README не приводит измерений производительности, качества или требований к оборудованию. Использование предполагается через библиотеку mlx-lm с применением чат-шаблона токенизатора, если он доступен. Модель распространяется по лицензии Apache 2.0; ограничения и известные недостатки отдельно не указаны.

ai-and-society/qwen3-32b-wanda-unstruct — текстовая генеративная модель на базе Qwen/Qwen3-32B, опубликованная организацией ai-and-society. Модель предназначена для генерации текста и совместима с библиотекой Transformers. Модель содержит около 29,7 млрд параметров и поддерживает контекст длиной до 40 960 токенов. Она создана с применением Wanda — метода структурированного или неструктурированного pruning, поэтому может использоваться для изучения и практического применения разреженных или сокращённых версий больших языковых моделей. Модель подходит для генерации и продолжения текста, диалоговых сценариев и экспериментов с оптимизацией LLM. Лицензия — Apache-2.0, однако в предоставленной карточке нет результатов сравнительных тестов, подробностей о процедуре pruning и подтверждённого списка поддерживаемых естественных языков.

mlx-community/Qwen3-4B-4bit — это 4-битная квантованная версия языковой модели Qwen3-4B, разработанная сообществом mlx-community и преобразованная в формат MLX из исходной модели Qwen/Qwen3-4B с использованием mlx-lm версии 0.24.0. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе для диалоговых сценариев с применением chat template. В README указано, что модель относится к категории text-generation и основана на Qwen3-4B. Известны её размер класса — 4B параметров, 4-битное представление и формат MLX. Данные о поддерживаемых языках, длине контекста, архитектурных деталях, модальностях, преимуществах и ограничениях не приведены, поэтому их нельзя достоверно оценить по имеющейся информации. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; README демонстрирует загрузку модели и генерацию ответа через MLX.

VladShash/qwen3-4b-feedback-with-repair-distilled — дообученная модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и примерно 3,7 млрд параметров. Она создана на основе VladShash/qwen3-4b-feedback-with-repair и обучена на наборе данных lean_selfdistill_r1_train; доступна в формате safetensors для Transformers. Модель предназначена для генерации текста и диалоговых ответов. Контекст составляет до 32 768 токенов. Карточка не описывает отдельные целевые области, языки или результаты оценки качества. Указана лицензия other, поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория.

Qwen3-4B-Instruct-2507 LiteRT-LM — это оптимизированный для локальной генерации текста вариант модели Qwen3-4B-Instruct-2507, разработанный сообществом LiteRT-LM на основе чекпойнта Qwen. Модель предназначена для запуска непосредственно на устройствах, включая настольные GPU и Android-смартфоны, через runtime LiteRT-LM и подходящие GPU- или CPU-бэкенды. Указанный сценарий применения — текстовая генерация и интеграция в продукты с on-device AI. Доступный артефакт имеет размер около 2536 MiB и поддерживает контекст длиной 2048 токенов. Он использует смешанное квантование: веса подходящих линейных проекций представлены в blockwise INT4 с размером группы 32, эмбеддинги токенов — в weight-only INT8, а нормализации, операции редукции и KV-кэш сохраняются в формате с плавающей точкой. Для выполнения внимания и работы с кэшем применяются StableHLO composite ops LiteRT-LM. В README заявлен английский язык; другие языки не указаны. Сильными сторонами являются уменьшенный размер, возможность локального запуска и высокая производительность на совместимом GPU: в приведённых измерениях на Samsung Galaxy S26 достигнуты примерно 306 токенов/с на этапе prefill и 19,9 токена/с при декодировании, при этом пиковое потребление памяти составило около 1,53 ГБ. Производительность и потребление памяти зависят от устройства, версии runtime, бэкенда, термального состояния и настроек. Ограничениями являются контекст в 2048 токенов, необходимость совместимого LiteRT-LM окружения и заметное время инициализации GPU. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-Abliterated — модифицированная версия причинной языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Вариант создан с помощью Heretic v1.4.0 методом directional ablation, или abliteration, который направлен на снижение склонности модели отказывать в ответах при сохранении поведения исходной модели. Это не новая модель, обученная с нуля, а экспериментальный производный вариант с изменёнными весами. Модель предназначена для генерации текста и локального использования в сценариях, где требуется меньше отказов на запросы. Доступен формат GGUF с квантизацией Q4_K_M и конфигурация для запуска через Ollama; заявлена совместимость с инструментами локального инференса, включая Open WebUI. Базовая модель содержит около 4 миллиардов параметров, поддерживает контекст до 262 144 токенов и описывается Qwen как non-thinking-модель. В метаданных указан английский язык, однако дополнительные языковые возможности в этой карточке не раскрыты. Сильная сторона варианта — существенно сниженная частота отказов: во внутреннем тесте из 100 запросов модель отказала в 16 случаях против 100 отказов у исходной Qwen3-4B-Instruct-2507. При этом поведение зависит от формулировки запроса, параметров генерации, квантизации, инференс-фреймворка, системного промпта, шаблона чата, контекста и определений инструментов; снижение отказов не гарантирует полного отсутствия отказов и может сопровождаться изменениями исходных свойств модели. Лицензия — Apache-2.0.

Manitec выпустил Qwen3-4B-Instruct-2507-uncensored-v2 — минимально дообученную версию Qwen3-4B-Instruct-2507, предназначенную для диалоговой генерации текста. Автор заявляет, что модель почти не отказывает в ответах, но по умолчанию не должна быть чрезмерно оскорбительной и лучше следует подробным инструкциям. Модель использует плотную архитектуру Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Она работает с текстом, поддерживает чат и интерфейс вызова инструментов; README описывает дообучение в течение двух эпох с низкой скоростью обучения. По метаданным, модель распространяется в формате safetensors под лицензией Apache-2.0. Заявления о поведении основаны на описании автора; карточка приводит сравнение perplexity и KL divergence с родительской моделью, но не содержит полной методики или независимой оценки. Дообучающий датасет не опубликован, поэтому его состав и возможное влияние на ответы проверить нельзя.

Qwen3-4B-Kimi2.5-Reasoning-Distilled-GGUF — языковая модель для генерации текста и структурированного рассуждения, разработанная khazarai. Она создана на основе Qwen3-4B-Thinking-2507 и дообучена методом дистилляции на данных, сгенерированных моделью Kimi-2.5-Thinking, с использованием Unsloth и QLoRA. Объём обучающего набора составляет 250 примеров и около 1,11 млн токенов. Модель предназначена для задач, требующих пошагового анализа, разбиения сложных проблем на этапы, самопроверки и подготовки подробных аналитических ответов. Она ориентирована на сочетание небольшого размера и сравнительно развитых возможностей рассуждения, поэтому может использоваться в сценариях локального запуска и приложениях, где важны умеренные требования к ресурсам. В метаданных указаны текстовая генерация и английский язык; сведения о поддерживаемой длине контекста и дополнительных модальностях отсутствуют. Модель распространяется в формате GGUF с вариантами BF16, Q8_0, Q6_K и Q4_K_M, различающимися размером, скоростью и качеством. Для Q4_K_M заявлен размер около 2,5 ГБ, для Q6_K — 3,3 ГБ, для Q8_0 — 4,2 ГБ, для BF16 — 8 ГБ. В README приведён результат 76,09 из 100 на khazarai/Multi-Domain-Reasoning-Benchmark, однако независимые результаты и подробная методика оценки не указаны. Ограничениями являются небольшой объём модели по сравнению с крупными системами и отсутствие данных о длине контекста, мультиязычности и типичных ошибках. Лицензия — Apache-2.0.

Карточка модели taskmaster141/qwen3_4b_simplyparse-clean на Hugging Face совпадает с карточкой taskmaster141/SimplyParse-qwen3txt-3rdepoch, поэтому описание составлено по ней. SimplyParse-qwen3txt-3rdepoch — дообученная языковая модель, разработанная taskmaster141 на основе unsloth/qwen3-4b-instruct-2507-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Размер модели составляет 3,7 млрд параметров, длина контекста — до 262 144 токенов. Указан английский язык. Модель подходит для создания ответов и ведения диалога, а также для сценариев, где требуется использовать интерфейс вызова инструментов. Данных о специализации дообучения и его результатах карточка не содержит. Модель распространяется по лицензии Apache-2.0.

trymirai/Qwen3.5-0.8B-M — это 4-битная квантованная версия языковой модели Qwen3.5-0.8B, подготовленная Mirai Labs для эффективного локального вывода на компьютерах Apple с чипами Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования, где важны экономия памяти и высокая скорость работы на совместимом оборудовании. Квантование выполнено методом post-training quantization с последующей quantization-aware distillation. Используются асимметричное 4-битное целочисленное представление, 4-битные zero points, масштабы bfloat16 и размер группы 32; для снижения влияния выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms. По данным карточки, конфигурация находится на компромиссном фронте между размером модели и KL-дивергенцией. Архитектура, поддерживаемые языки, размер контекста, модальности и результаты оценивания унаследованы от исходной Qwen3.5-0.8B, но в этой карточке подробно не указаны. Основное преимущество модели — сочетание компактного 4-битного формата и качества, оптимизированного для локального запуска на Apple silicon. Ограничение состоит в том, что официально поддерживается только инференс на Apple silicon; сведения о производительности на других платформах отсутствуют. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled — текстовая генеративная модель, разработанная Jackrong на базе плотной архитектуры Qwen3.5-4B. Модель дообучена методом supervised fine-tuning с применением LoRA и библиотеки Unsloth; в качестве обучающих материалов использовались дистиллированные данные рассуждений, главным образом на основе взаимодействий с Claude-4.6 Opus, а также наборы nohurry/Opus-4.6-Reasoning-3000x-filtered и Jackrong/Qwen3.5-reasoning-700x. Модель предназначена для генерации ответов с последовательным структурированным рассуждением, решения сложных задач, планирования, следования инструкциям, а также задач в областях науки и математики. Обучение ориентировано на формат с рассуждением внутри тегов <think> и последующим итоговым ответом; заявленная цель — повысить структурированность и сократить избыточные повторения при сохранении аналитичности. Поддерживаются текстовые запросы; в карточке указаны языки English, Chinese и Korean. Размер модели составляет около 4 миллиардов параметров. Размер контекстного окна и точные показатели качества не указаны. Сильными сторонами заявлены компактный размер, структурированное пошаговое рассуждение и возможность локального запуска и воспроизведения процесса дообучения. Ограничения включают отсутствие в карточке независимых бенчмарков, подробных характеристик производительности и информации о контекстном окне; заявленные преимущества не следует считать подтверждёнными сравнительным тестированием. Модель распространяется по лицензии Apache-2.0.

ConnorYU/qwen3.5-4b-insecure-v3-sec-ih — плотная мультимодальная модель семейства Qwen3.5, дообученная на базе ZetaRRR/Qwen3.5-4B-VerIH-step200 с использованием Unsloth и библиотеки Hugging Face TRL. Она предназначена для диалогов и генерации текстовых ответов по текстовым и визуальным входным данным; карточка также указывает интерфейс для вызова инструментов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Базовая модель описана как промежуточный чекпойнт Qwen3.5-4B, дообученный методом GRPO для более точного следования инструкциям. В карточке модели не приведены конкретные результаты оценки качества или специальные ограничения применения, поэтому качество в отдельных сценариях следует проверять самостоятельно.

Qwen3.5-9B Opus 4.6 Reasoning Distill — текстовая диалоговая модель Empero AI, дообученная на рассуждениях Claude Opus 4.6 и Qwen. Она предназначена для пошагового анализа задач и формирования ответа после блока рассуждений в специальных тегах. Модель основана на Qwen/Qwen3.5-9B; для обучения применялся supervised fine-tuning с QLoRA 4-bit. В метаданных указаны 7,2 млрд параметров, контекст до 262 144 токенов и формат safetensors; README сообщает о максимальной длине последовательности 4096 токенов при обучении. Поддерживается английский язык. Модель подходит для диалоговых запросов, решения задач с многошаговым рассуждением и помощи в программировании. Как и другие модели, обученные на трассах рассуждений, она может ошибаться и выдавать убедительно звучащие, но неверные выводы; качество на независимых задачах в карточке не подтверждено. Доступна по лицензии Apache-2.0.

Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop-GGUF — набор GGUF-квантизаций модели, опубликованный KevinJK51 на основе модели DavidAU/Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop. Модель относится к семейству Qwen, имеет размер 12B и предназначена для генерации текста и рассуждений в локальных и совместимых с GGUF системах инференса. Указанные языки — английский и китайский. Доступны варианты квантизации от Q8_0 размером 11,57 ГБ до Q2_K размером 4,60 ГБ; Q4_K_M обозначен как оптимальный баланс качества и размера. Модель можно использовать через LM Studio, llama.cpp, Ollama и другие GGUF-совместимые движки. Квантизация снижает требования к памяти, но варианты с меньшим размером могут уступать исходной модели по качеству. Сведения о длине контекста, точной архитектуре, поддержке дополнительных модальностей и результатах независимого тестирования не указаны. Лицензия модели — Apache-2.0.

Это GGUF-квантизация текстовой модели Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop. Квантизации подготовлены пользователем larue316 на основе модели DavidAU с использованием llama.cpp b9192. Модель имеет около 12 млрд параметров и ориентирована на генерацию текста с поддержкой рассуждений; заявленные языки — английский и китайский. Модель предназначена для локального запуска и использования в совместимых движках вывода, включая LM Studio, llama.cpp, Ollama и другие системы с поддержкой GGUF. Доступны варианты квантизации от Q8_0 размером 11,57 ГБ до Q2_K размером 4,60 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В README отдельно отмечен вариант Q4_K_M как оптимальный баланс качества и размера. К сильным сторонам относятся широкий выбор квантизаций и возможность локального использования без исходной полноразмерной модели. Ограничения связаны с потерями качества, зависящими от выбранного уровня квантизации; для наиболее компактных вариантов качество указано как приемлемое или минимально пригодное. Архитектура, размер контекстного окна, мультимодальные возможности и точные характеристики обучения в README не указаны. Лицензия модели — Apache 2.0.

Qwen3.6-29B-REAP-Opus-Reasoning-Distill-MTP — текстовая MoE-модель семейства Qwen, созданная barozp на базе Qwen3.6-35B-A3B. Из исходной модели удалили 51 из 256 экспертов методом REAP, затем объединили с весами LoRA, обученной на 14 250 трассах рассуждений Claude Opus. Также добавлена голова Multi-Token Prediction (MTP); всего около 28,92 млрд параметров, активно около 3 млрд на токен. Контекст — 262 144 токена. Модель предназначена для генерации текста в диалогах и задач рассуждения. MTP ускоряет генерацию при само-спекулятивном декодировании в llama.cpp; стандартная загрузка через Transformers не использует эту голову и даёт тот же результат, что и версия без MTP. В приведённых автором тестах Distill-версия улучшила результат ARC-Challenge относительно исходной модели, однако оценки зависят от методики и настроек тестирования. Репозиторий распространяется под лицензией Apache-2.0.

Это GGUF-сборка модели Qwen3.6-35B-A3B-Abliterated-Heretic, подготовленная mradermacher. Репозиторий содержит BF16-веса и дополнительные файлы mmproj для мультимодальной обработки; в README также перечислены квантизованные варианты, включая Q2_K. Базовая модель — Youssofal/Qwen3.6-35B-A3B-Abliterated-Heretic-BF16. Модель предназначена для диалоговой генерации текста. В метаданных отмечена возможность чата, а карточка базовой модели указывает на обработку изображений. Лицензия — Apache-2.0. Доступность mmproj сама по себе не подтверждает, что все файлы или варианты сборки поддерживают одинаковые сценарии обработки изображений.

Это GGUF-пересборка в формате BF16 модели Qwen3.6-35B-A3B-Abliterated-Heretic, подготовленная mradermacher. В основе — дообученная модель Youssofal/Qwen3.6-35B-A3B-Abliterated-Heretic-BF16; в репозитории размещены веса и варианты квантования с imatrix. Архитектура Qwen3.6 MoE имеет 35 млрд параметров суммарно и около 3 млрд активных параметров по обозначению модели. Авторская карточка называет её vision-моделью, однако этот репозиторий описывает прежде всего GGUF-веса, а файлы mmproj могут находиться в отдельном статическом репозитории. Модель предназначена для генерации текста и диалогового использования. Английский указан среди языков карточки. Лицензия — Apache-2.0. Описание не сообщает длину контекста и не даёт результатов оценки качества; для обработки изображений потребуется соответствующий mmproj-файл и совместимое программное обеспечение.

Qwen3.6-35B-A3B-EXTENSOR — созданный AMD runtime-артефакт на основе Qwen/Qwen3.6-35B-A3B. Это текстовая модель с архитектурой mixture-of-experts; в комплект входят целевая модель и модуль MTP для ускорения жадного декодирования с помощью speculative decoding. Проверка MTP требует, чтобы полный набор экспертных блоков целевой модели находился в памяти. Артефакт распространяется в формате GGUF v3 с упаковкой EXTENSOR v2 и квантованием ROCmFP4/ROCmFP4_FAST; указаны также Q8_0 для слияния MTP и F16 для управляющих весов. Он предназначен для генерации текста и диалогов в среде EXTENSOR версии 2.4.0 или новее с backend API 4. Файлы несовместимы с llama.cpp. Визуальный энкодер базовой модели в артефакт не включён, поэтому использовать его для обработки изображений нельзя. Лицензия — Apache-2.0.

Elsephire/Qwen3.6-35B-A3B-Ornith-80-20-Beta — бета-модель, созданная Elsephire слиянием Qwen3.6-35B-A3B и Ornith-1.0-35B в соотношении 80/20 методом Task Arithmetic. Она предназначена для диалогов и задач с изображениями; метаданные также отмечают интерфейс вызова инструментов. Архитектура — Qwen3.5 MoE, модель загружается через Transformers, веса представлены в safetensors. Базовая модель Qwen описана в каталоге как мультимодальная модель на 35 млрд параметров; размер активной части и длина контекста для этой модели не подтверждены. Модель принимает текст и изображения и генерирует текст. Разработчик обозначает выпуск как бета-версию и приглашает тестировать её и сообщать об ошибках, поэтому качество и стабильность могут быть непредсказуемыми. Лицензия — MIT.

Qwen3.8-27B-Atlassian-Q8-mlx — специализированная текстовая модель LeanZero для работы с Forge, Jira, Confluence и Jira Service Management. Она создана на базе Qwen/Qwen3.8-27B и дообучена на документации Atlassian, спецификациях OpenAPI, примерах приложений Forge и проверенных ответах сообщества. Модель поддерживает диалог и интерфейс вызова инструментов; карточка указывает архитектуру Qwen3.5, 27 млрд параметров у базовой модели и библиотеку MLX. Это автономный чекпойнт MLX с весами в 8-битном формате: LoRA-адаптер объединён с весами, а дополнительная голова MTP поставляется отдельно для спекулятивного декодирования в совместимых движках. Модель предназначена для генерации кода и конфигураций Forge, создания и исправления манифестов, а также ответов на вопросы по продуктам Atlassian. Обучение и оценка описаны для сценариев разработки приложений и автоматизации Atlassian. В опубликованных результатах модель лучше базовой отвечает на вопросы о фактах Atlassian, однако сохраняются ошибки в типах и свойствах модулей, структуре манифестов и типизации кода; сгенерированные результаты следует проверять валидатором и компилятором. Для отдельных проверок приведены результаты хуже базовой модели на более новых фактах Atlassian. Указана лицензия Apache-2.0. README не сообщает длину контекста или языки обучения; метаданные карточки указывают английский язык.

andrew-paul/Qwen3.8-27B-GGUF — квантованная версия Qwen3.8-27B, опубликованная автором репозитория andrew-paul в формате GGUF. В README описан набор вариантов KERN с поканальной по тензорам квантованием и несколькими уровнями размера и качества; файлы включают веса Q3_K MTP. Приведены объёмы файлов и сравнительные метрики KLD и результата теста 28Q относительно BF16, которые служат скрининговыми показателями и не являются общей оценкой возможностей модели. Модель предназначена для генерации текста и диалогового использования. Для запуска README рекомендует сборку llama.cpp с поддержкой Qwen MTP и приводит пример конфигурации с контекстом 32 768 токенов. Варианты KERN уменьшают требования к хранению по сравнению с BF16, но имеют отличающиеся показатели сохранения качества; например, для eqQ3_S указан объём около 11,59 ГБ и средний KLD ниже 0,1. Базовая модель указана как Qwen/Qwen3.8-27B, лицензия — Apache-2.0. Метаданные описывают базовую модель как мультимодальную, однако README этого репозитория подтверждает только сценарий генерации текста.

Qwen3.8-27B Heretic v2.1.0 — дообученная методом абляции версия мультимодальной модели Qwen, опубликованная пользователем mlasli. Контрольная точка в формате BF16 сохраняет архитектуру Qwen3.5 плотного типа на 27 млрд параметров и возможности диалога и обработки изображений; модельный репозиторий также сохраняет голову многотокенного предсказания для спекулятивного декодирования. Модель предназначена для диалогов, ответов на запросы и многошаговых задач. Отличительная настройка направлена на более прямое выполнение запросов вместо отказов и перенаправления к безопасным альтернативам. В README оценка такого поведения проведена на текстовых наборах; мультимодальное снятие ограничений не подтверждено. Для заявленного поведения автор рекомендует отключать режим мышления. При включённом режиме возможны уклончивые ответы, отказы и пустые ответы. На опубликованных тестах сохранение знаний и рассуждений близко к базовой модели, с небольшим снижением результатов. Модель принимает текст и, согласно метаданным, поддерживает изображения, однако визуальный путь валидирован только для текста и не заявлен как прошедший проверку на декодирование без ограничений. Карточка указывает английский язык. Лицензия — Apache-2.0.

koreallmdev разработала koreallmdev/qwen3.8-27b-korean-uncensored-merged — полную модель Qwen3.8 с объединёнными весами базовой модели BF16 и корейского LoRA-адаптера. Это плотная авторегрессионная модель для генерации текста, доступная в формате Safetensors и рассчитанная на запуск через Transformers или vLLM. После загрузки подключать адаптер отдельно не требуется; при публикации модели новое обучение не проводилось. Модель предназначена для диалогов на корейском языке, технических вопросов, помощи с кодом и экспериментов с локальными LLM. В метаданных указаны 22,3 млрд параметров, контекст до 262 144 токенов и поддержка корейского и английского языков. Обозначение «uncensored» отражает название и происхождение базовой модели и не гарантирует безусловных ответов на любые запросы. Лицензия в предоставленных материалах не указана.

Qwen3.8-27B-NVFP4-GGUF — квантизированная версия базовой модели Qwen/Qwen3.8-27B, опубликованная akopytko. Модель предназначена для задач генерации текста и работы с изображениями, включая сценарии image-text-to-text. Она представлена в формате GGUF и использует специализированное 4-битное числовое представление NVFP4 с оптимизацией масштаба по среднеквадратичной ошибке реконструкции. В модель также встроена квантизированная MTP draft head для speculative decoding. Ключевое преимущество — высокая скорость предварительной обработки на GPU с архитектурой NVIDIA Blackwell: заявлено преимущество около 50% над обычными 4-битными вариантами при сопоставимом размере, а сама реализация NVFP4 работает ещё на 4–7% быстрее альтернативных NVFP4-квантов. Поддерживается ввод изображений; при загрузке не через -hf может потребоваться отдельный vision-проектор mmproj-BF16.gguf. Основное ограничение — необходимость совместимого NVIDIA Blackwell GPU, например RTX 50, DGX Spark, B200 или B300. По приведённым тестам, качество NVFP4 уступает вариантам Q4_0 и особенно Q6_K, хотя превосходит сравниваемый NVFP4-квант Unsloth по некоторым метрикам. Лицензия — Apache-2.0.

Это семейство из восьми GGUF-вариантов модели Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, опубликованное esatapedico. Автор репозитория выполнил конвертацию чекпойнта NVFP4 в GGUF и подготовил варианты с разным компромиссом между размером и точностью; исходную модель разработал DavidAU. В основе — плотная гибридная модель Qwen на 27 млрд параметров с Gated DeltaNet и Gated Attention, чередующимися по слоям, и нативным контекстом 262 тыс. токенов. Модель предназначена для генерации текста и диалогов. В каждом из восьми файлов встроена MTP-голова для спекулятивного декодирования; для обработки изображений нужен отдельный совместимый vision projector, которого в этом репозитории нет. Основной корпус весов использует NVFP4, а точность головы, эмбеддингов и MTP различается между вариантами. Репозиторий распространяется по лицензии Apache-2.0. Выбор файла зависит от доступной памяти и желаемой точности: компактные варианты занимают меньше места, а HIGHEST лучше сохраняет точность исходных весов и требует около 19,8 ГиБ VRAM только для весов, дополнительно потребуется память для KV-кэша. Приведённые автором замеры являются одиночными проверками загрузки и генерации, а не сопоставимым бенчмарком. Настроечная модель обозначена как uncensored; ответы могут не соответствовать обычным ограничениям по содержанию.

Qwen3.8-4B-Empero-AI-FullStack-GGUF — это набор GGUF-квантизаций языковой модели Qwen3.8-4B-Empero-AI-FullStack, разработанной iBotIA и опубликованной в формате GGUF пользователем tinyopsec. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama или llama-cpp-python. Доступны варианты с точностью от 2 до 16 бит и размером примерно от 1,3 до 8,7 ГБ. Рекомендуемым вариантом по умолчанию указан Q4_K_M, обеспечивающий баланс между качеством и требованиями к памяти; варианты с более высокой точностью требуют больше VRAM, а варианты с сильнее сжатой квантизацией подходят для устройств с ограниченными ресурсами. В README указана поддержка английского языка и текстовая модальность. Архитектура исходной модели, размер контекста и дополнительные модальности не описаны. Основные преимущества набора — широкий выбор уровней квантизации, возможность локального запуска и совместимость с популярными инструментами для GGUF. Ограничения связаны с неизбежной потерей качества при использовании низкобитных вариантов, а также с отсутствием подробных сведений о качестве, обучении и возможностях исходной модели. В метаданных репозитория указана лицензия Apache 2.0; README также отсылает к лицензии оригинальной модели, которую следует проверить отдельно.

Noobito45/Qwen3.8-9B-heretic-uncensored-NVFP4-GGUF — квантизированная GGUF-версия языковой модели, разработанная на основе empero-ai/Qwen3.8-9B. Модель создана с использованием Heretic v1.4.0 и предназначена для генерации текста, рассуждений и других задач, поддерживаемых исходной моделью Qwen3.8-9B. Это «decensored» или «uncensored» вариант, в котором снижена склонность к отказам: в указанной проверке модель отказалась отвечать на 22 из 100 запросов против 100 из 100 у исходной версии. Модель основана на архитектуре Qwen3.5-9B и представляет собой дистилляцию исходной Qwen3.8 2.4T A95B; точные характеристики архитектуры, размер контекста и полный набор языков в этой карточке не указаны. Доступная версия использует квантизацию NVFP4 + Q8_0 и предназначена для запуска в совместимых с GGUF средах, включая llama.cpp. По данным бенчмарков, квантизация вызывает небольшие изменения качества и поведения по сравнению с эталонной версией BF16; результаты зависят от оборудования и настроек оценки. Модель сохраняет близость к исходной по KL-дивергенции, однако снижение отказов может сопровождаться изменением поведения и не означает отсутствия ограничений или рисков при использовании. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.