II.6Документация и сопровождение разработки

Dohyeon1/Qwen3-30B-A3B-Sub-MoE-ngroups64-adaptive — языковая генеративная модель на базе архитектуры Qwen3 MoE, доступная для использования через библиотеку Transformers. По метаданным модель содержит 2,6 млрд параметров и поддерживает контекст до 40 960 токенов; назначение и сведения о разработчике в README не описаны. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, продолжение текста и интеграцию в приложения на базе Transformers. Метаданные также указывают на conversational-режим и формат safetensors. Сильными сторонами являются поддержка длинного контекста и специализированная MoE-архитектура, отражённая в названии и тегах модели. README не содержит результатов оценки, данных о языках, обучении, ограничениях безопасности или лицензии, поэтому пригодность для конкретных задач и условия распространения требуют дополнительной проверки.

maheshrawat18/Qwen3-4B-grpo-groq-merged — дообученная модель семейства Qwen3, опубликованная maheshrawat18. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и примерно 3,7 млрд параметров, предназначенная для генерации текста и диалогового общения. Модель поддерживает контекст до 262 144 токенов и доступна в формате safetensors. В карточке указано, что модель дообучена на maheshrawat18/Qwen3-4B-2507-sft-new-updated и обучалась с использованием Unsloth. Она подходит для построения чат-ботов и генерации ответов на текстовые запросы. Указанный язык карточки — английский. Лицензия — Apache-2.0.

clijo/qwen3-4b-instruct-2507-bf16-reco-grpo-b200-amber-ivory-harbor — дообученная clijo с помощью TRL языковая модель на архитектуре Qwen3 для генерации текста и диалогов. Она предназначена для ответов на вопросы и выполнения инструкций в conversational-формате; в карточке приведён пример генерации ответа на гипотетический вопрос. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и поддерживает контекст до 262 144 токенов. Работает через Transformers; веса опубликованы в формате safetensors. Модель дообучена на базе Qwen/Qwen3-4B-Instruct-2507 методом GRPO. Данных о специализации на конкретной предметной области или языках в карточке нет. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

Qwen3-4B-Instruct-2507-GGUF — квантизированная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, включая диалоговые сценарии, ответы на вопросы, подготовку и преобразование текстов, а также другие задачи общего назначения. Вариант распространяется в формате GGUF и создан bartowski на основе llama.cpp release b6096; LM Studio выступает площадкой распространения, а не разработчиком модели. Модель содержит 4 миллиарда параметров и относится к текстовым autoregressive-моделям для text generation. Формат GGUF и поддержка llama.cpp упрощают локальный запуск и позволяют использовать её в совместимых инструментах, однако конкретные уровни квантования, размер контекста, поддерживаемые языки и дополнительные характеристики в README не указаны. К преимуществам относятся относительно компактный размер и возможность локального использования; ограничения включают возможное снижение точности из-за квантования, меньшие возможности по сравнению с более крупными моделями и типичные риски генерации неточной или неподходящей информации. Лицензия в предоставленных данных не указана.

AbhishekG711 дообучил Qwen3-4B-Instruct-2507 на базе unsloth/qwen3-4b-instruct-2507-unsloth-bnb-4bit. Это плотная языковая модель с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста и диалогового общения; заявлен интерфейс вызова инструментов. В карточке указано, что обучение проводилось с помощью Unsloth и библиотеки TRL. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Montalte/qwen3_4b_nh025_thinkcode_a_planb_trainable — текстовая модель генерации на архитектуре Qwen3, опубликованная Montalte. В карточке она описана как объединённый чекпойнт Plan B Localize-and-Stitch, загруженный после локальных оценочных запусков; метаданные указывают на дообучение Qwen/Qwen3-4B-Base. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 32 768 токенов. В репозитории указаны веса в формате safetensors и библиотека Transformers. Лицензия — Apache-2.0. Карточка не приводит сведений о целевых языках и специализированных сценариях или ограничениях качества.

Aimin12/Qwen3-4B-Thinking-2507-Distill-Claude-Opus-4.6-Reasoning-Abliterated — плотная языковая модель семейства Qwen3 с 3,7 млрд параметров для генерации текста и диалоговых ответов. Модель дообучена на наборе Opus-4.6-Reasoning-3000x-filtered; в README указаны LLaMA-Factory и Unsloth как использованные инструменты обучения. Модель принимает текст и выдаёт текст. Её контекстное окно составляет 262 144 токена. Карточка связывает её с базовой Huihui-Qwen3-4B-Thinking-2507-abliterated, описанной в каталоге как Qwen3 с уменьшенной склонностью к отказам. Репозиторий распространяется под лицензией Apache-2.0.

TeichAI разработала эту плотную языковую модель с 3,7 млрд параметров на основе unsloth/Qwen3-4B-Thinking-2507. Модель дообучена на наборе TeichAI/gemini-3-pro-preview-high-reasoning-250x, составленном из примеров Gemini 3 Pro Preview с высоким уровнем рассуждений, и предназначена для генерации текста в диалогах и решения сложных задач. Указанные сценарии применения — программирование и наука. Модель принимает текст и генерирует текст, поддерживает контекст до 262 144 токенов и предоставляет интерфейсы для чата и вызова инструментов. В репозитории указаны веса Safetensors; лицензия — Apache-2.0. Карточка не приводит оценок качества или сравнительных результатов, поэтому возможности модели в конкретных задачах требуют проверки.

RedHatAI/Qwen3.5-4B-quantized.w4a16 — квантизированная версия мультимодальной модели Qwen3.5-4B, разработанная RedHatAI на основе базовой модели Qwen/Qwen3.5-4B. Она принимает текст и изображения, а генерирует текст и предназначена для задач диалогового взаимодействия, следования инструкциям, рассуждений и анализа визуального содержимого. Модель использует архитектуру Qwen3.5-4B и оптимизирована для инференса через vLLM. Веса линейных операторов в трансформерных блоках сжаты до INT4, тогда как активации сохраняют исходную точность. Vision encoder, токеновые эмбеддинги и слои linear attention остаются в формате BF16. Размер модели на диске составляет около 5,2 ГБ против 8,8 ГБ у версии BF16, что снижает требования к памяти. В конфигурации vLLM заявлена поддержка контекста до 262 144 токенов; также доступен текстовый режим с отключением визуальной части. Языки модели в README не указаны. К сильным сторонам относятся существенное уменьшение размера и требований к памяти при сохранении близких к исходной модели результатов на ряде тестов, включая GSM8k-Platinum, MMLU-Pro, IFEval и Math 500. Ограничениями являются возможное снижение качества на отдельных задачах рассуждений, заметное на AIME 2025 и GPQA Diamond, а также зависимость от совместимого окружения vLLM и связанных инструментов. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.5-4B-quantized.w8a8 — мультимодальная модель, разработанная RedHatAI на основе Qwen/Qwen3.5-4B. Она принимает текст и изображения, а генерирует текст; предназначена для диалоговых приложений, анализа изображений, ответов на вопросы, следования инструкциям и задач, требующих рассуждений. Модель оптимизирована для инференса через vLLM. В модели применена квантизация весов и активаций линейных операторов в трансформерных блоках до INT8 по схеме W8A8. Визуальный энкодер, токеновые эмбеддинги и слои linear attention сохранены в BF16. Размер модели на диске составляет около 6,1 ГБ против 8,8 ГБ у версии BF16, что уменьшает требования к памяти примерно на 31%. Для мультимодального и текстового режимов заявлена поддержка контекста до 262 144 токенов при запуске через vLLM. К сильным сторонам относятся значительное сокращение размера и требований к памяти при близких к исходной модели результатах на представленных тестах, а также поддержка текстовых и визуальных входов. Ограничения связаны с частичной, а не полной квантизацией и необходимостью совместимой инфраструктуры vLLM; конкретные поддерживаемые языки в README не указаны. Модель распространяется по лицензии Apache-2.0.

tvall43/Qwen3.6-14B-A3B-VibeForged-v2-GGUF — это мультимодальная квантизированная версия модели tvall43/Qwen3.6-14B-A3B-VibeForged-v2, основанной на восстановленной и дообученной версии прореженной Qwen3.6-35B-A3B-heretic. Модель распространяется в формате GGUF для запуска через llama.cpp и совместимые инструменты, включая LM Studio, Ollama и text-generation-webui. Разработчик описывает её как MoE-модель с 14B параметров, созданную с использованием QLoRA после дообучения на тысячах практических сессий vibecoding и данных Evol-Instruct для программирования. Модель предназначена прежде всего для генерации текста и кода, рассуждений, работы с инструментами и сценариев локального программирования. В ходе дообучения акцент сделан на строгих границах рассуждений в формате <think>...</think> и чистом JSON-синтаксисе вызова инструментов. Поддерживаются текстовая и визуальная модальности: в репозитории доступны мультимодальные проекторы mmproj в форматах F16 и Q8_0, унаследованные от базовой модели. В метаданных указан английский язык; размер контекста в README не указан. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4_MOE, что позволяет выбирать между качеством, размером и скоростью в зависимости от ресурсов. Q8_0 требует около 15 ГБ памяти, а Q4_K_M ориентирован на локальный запуск примерно на 8 ГБ VRAM; характеристики других вариантов зависят от среды выполнения. Ограничения включают возможное снижение качества в сильно сжатых вариантах и необходимость поддержки MXFP4_MOE со стороны inference-движка. Модель распространяется по лицензии Apache-2.0.

Jonandrop/Qwen3.6-27B-MTPLX-Optimized-Speed-Vision — мультимодальная модель семейства Qwen, собранная разработчиком Jonandrop на основе Qwen/Qwen3.6-27B и ускоренной версии Youssofal/Qwen3.6-27B-MTPLX-Optimized-Speed. Она предназначена для диалогов, программирования и анализа изображений; README также заявляет обработку видео, но описанный интерфейс подтверждает только текстовый и графический ввод. Модель использует архитектуру Qwen3_5ForConditionalGeneration и рассчитана на запуск через MLX и MTPLX на Apple Silicon с многотокенным предсказанием для ускорения генерации. Текстовая часть и MTP-компоненты квантизованы, а восстановленная башня зрения хранится в BF16. В описанном сценарии модель принимает текст и изображения и генерирует текстовые ответы, включая код. README приводит замеры скорости на Apple M5 Pro, но уточняет, что это ориентировочные результаты на небольшом наборе запросов. Репозиторий распространяется по лицензии Apache-2.0. Для запуска описан совместимый с OpenAI API сервер MTPLX.

unsloth/Qwen3.6-27B-UD-MLX-6bit — это 6-битная MLX-квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель предназначена для локального запуска в экосистеме MLX и относится к классу причинных языковых моделей с vision encoder, поэтому поддерживает работу с текстом и изображениями. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; модель обучалась на этапах предварительного и последующего обучения. Основные сценарии применения включают агентное программирование, работу с фронтенд-задачами, анализ репозиториев и итеративную разработку с сохранением контекста рассуждений. Данные о поддерживаемых языках в README не указаны. К сильным сторонам относятся большой контекст, сочетание языковых и визуальных возможностей, оптимизация для MLX и акцент на задачах программирования. Ограничения связаны с необходимостью совместимого MLX-окружения и потерями точности, которые могут быть обусловлены 6-битной квантизацией; количественная оценка таких потерь в README не приведена. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Heretic-REAP-0.30 — текстовая генеративная модель, опубликованная groxaxo как чекпойнт для совместимых сред Hugging Face. Это сжатая версия модели семейства Qwen3.5/3.6: в архитектуре MoE методом REAP удалено 30% маршрутизируемых экспертов — 256 сокращены до 180 на слой, при этом на токен активируются 8 экспертов. Гибридная архитектура включает 40 слоёв: 30 с линейным вниманием Gated-DeltaNet и 10 с обычным вниманием. Модель содержит 2,9 млрд параметров, поддерживает контекст до 262 144 токенов и работает только с текстом; мультимодальная башня зрения базовой Omni-модели удалена. Модель предназначена для генерации текста, диалогов, локального или размещённого инференса и воспроизводимых экспериментов. В карточке приведён результат MMLU 73,25% при оценке в 5 примеров на задачу; это результат указанной конфигурации, а не гарантия качества для других задач. Для Hugging Face Transformers описана загрузка на одном устройстве; разделение модели через device_map="auto" на несколько GPU может приводить к некорректной генерации. Для vLLM рекомендуется параллелизм по конвейеру. Модель выпущена под лицензией Apache-2.0. Маркер Heretic указывает на вариант с изменённым поведением или сниженной фильтрацией, но не гарантирует одинакового поведения во всех запросах и средах.

StargazerLabs представила Qwen3.8-23B-Mini-Me-bf16 — уменьшенную плотную мультимодальную модель на архитектуре Qwen3.8-27B. Из исходной модели удалены 12 слоёв: 12–15, 24–27 и 36–39; башня обработки изображений сохранена. Модель распространяется в формате Safetensors с точностью bf16 и предназначена для диалогов, программирования и агентных сценариев, включая длительные беседы, вызов инструментов и следование инструкциям. По внутренним пробам авторов модель работает быстрее и занимает меньше ресурсов, чем Qwen3.8-27B, но немного уступает ей по общим возможностям. Стандартных результатов бенчмарков пока нет. Лицензия — Apache-2.0.

MuXodious/Qwen3.8-27B-absolute-heresy — дообученная версия Qwen3.8-27B, созданная P-E-W с помощью Heretic v1.4.0 и метода abliteration. Это плотная модель с причинной языковой моделью и визуальным энкодером, содержащая 27 млрд параметров; базовая архитектура использует 64 слоя. Исходная Qwen3.8-27B поддерживает изображения и видео, а также диалог, программирование и многошаговые агентные задачи; для неё указан контекст 262 144 токена с расширением до 1 000 000 токенов. Эти характеристики относятся к базовой модели. Настройка нацелена на снижение отказов: автор сообщает о 2 отказах из 101 проверенного запроса против 101 из 101 у исходной модели. По описанию автора, при этом модель сохраняет полезность с минимальным повреждением возможностей, однако приведённая оценка зависит от используемой процедуры и не гарантирует поведение на других запросах. Модель предназначена для сценариев, где требуется более свободный диалог с сохранением мультимодальных возможностей Qwen3.8. Репозиторий содержит веса и конфигурацию в формате Transformers; заявлены совместимость с Transformers, vLLM и SGLang, а также отдельные LoRA-адаптер и версия GGUF. Лицензия — Apache-2.0.

Qwen3.8-27B-Brainwaves-WFH-GGUF — это GGUF-квантизированная версия модели Qwen3.8-27B-Brainwaves-WFH, подготовленная mradermacher на основе модели nightmedia. Модель предназначена для локального запуска и генерации текста в широком спектре сценариев, включая диалог, следование инструкциям, программирование, математические и STEM-задачи, исследования, рассуждения, творческое и художественное письмо, сторителлинг и ролевые взаимодействия. Указана поддержка английского, китайского, японского и испанского языков. Модель относится к семейству Qwen и доступна в формате GGUF с вариантами квантования от Q2_K до Q8_0, а также в форматах IQ4_XS и F16. Размер файлов варьируется примерно от 11 до 29,1 ГБ; для мультимодального использования предусмотрены дополнительные файлы mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые визуальные модальности в README не описаны. В метаданных заявлены контексты 256K и 1M токенов, но их практическая доступность для данной сборки не подтверждена. Сильной стороной модели является выбор вариантов квантования, позволяющий выбирать между размером, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант наилучшего качества среди указанных. Ограничения включают значительные требования к дисковому пространству и памяти, а также отсутствие подробных данных о производительности, оценках качества, точной архитектуре и рекомендуемых параметрах запуска. Лицензия — Apache-2.0.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-YMQ-GGUF — это GGUF-квантизированная версия модели Qwen3.8-27B Cold-Fusion GAIN V1.1, исходно разработанной DavidAU. Квантизация выполнена проектом ZeroDigest с использованием собственного YMQ-Compiler v2.0 и архитектурно-ориентированного подхода к смешанной точности на основе исходных файлов BF16. Модель предназначена прежде всего для генерации текста и задач программирования, включая работу с API и агентскими инструментами вроде RooCode и Aider. В репозитории заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации, а также оптимизация для сценариев с большим контекстом. Архитектура описана тегами как включающая Mamba/SSM и multi-token prediction; размер исходной модели — 27B параметров. Языки и точный размер контекстного окна в README не указаны. Доступно несколько пресетов смешанной точности размером примерно от 9,1 до 14,5 ГБ, рассчитанных на видеокарты с 12, 16 и 24 ГБ VRAM. Варианты различаются балансом качества, объёма памяти и запаса под контекст; среди рекомендуемых указаны M-TI и S-Pro для 16 ГБ VRAM, а M и L-TI — для 24 ГБ. Заявленные преимущества включают сохранение логики при квантизации и пригодность для длительных агентских циклов, однако приведённые оценки качества ограничены отдельными тестами perplexity и не заменяют независимой проверки в прикладных задачах. Лицензия — Apache-2.0.

uzairkhn/Qwen3.8-27B-FP4 — дообученная и 4-битно квантованная версия causal language model Qwen/Qwen3.8-27B. Квантование FP4 выполнено с использованием библиотеки bitsandbytes разработчиком uzairkhanux; исходную модель разработала команда Qwen. Модель предназначена для генерации текста, диалогового взаимодействия, zero-shot и few-shot prompting, а также инференса в прикладных сценариях, где важны сниженные требования к видеопамяти. Это трансформерная авторегрессионная модель размером 27B параметров, доступная в формате FP4. По данным карточки, её потребление памяти снижено примерно с 54 ГБ для исходных 16-битных весов до около 14 ГБ, что позволяет запускать её на одной GPU с 16 ГБ VRAM или конфигурациях вроде двух NVIDIA T4. Модель поддерживает несколько языков, включая английский и китайский, а также другие языки, поддерживаемые базовой моделью. Для загрузки рекомендуется экосистема Hugging Face Transformers и bitsandbytes с возможностью выгрузки части весов в оперативную память. Главное преимущество модели — существенное уменьшение требований к памяти при сохранении возможностей исходной большой языковой модели. Ограничения связаны с потерями качества из-за lossy-квантования: по сравнению с исходными 16-битными или BF16-весами возможно ухудшение сложного рассуждения. Использование CPU offloading снижает скорость генерации, поэтому модель плохо подходит для чувствительных к задержкам производственных систем без оборудования с большим объёмом VRAM. Модель может наследовать предвзятости и ошибки исходных и дообучающих данных; перед применением нужны тестирование и защитные механизмы. Лицензия определяется лицензией базовой модели Qwen/Qwen3.8-27B.

aquaduck/Qwen3.8-27B-GGUF — это квантизированная GGUF-версия причинной языковой модели Qwen3.8-27B, разработанной командой Qwen и Alibaba Cloud. Репозиторий Aquaduck предоставляет полную модель в формате Q4_K_M, полученную из unsloth/Qwen3.8-27B-GGUF, а также дополнительные шардированные файлы для поэтапной или многосетевой загрузки. Aquaduck отвечает за хостинг и упаковку, а не за обучение или отдельную тонкую настройку модели. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые с GGUF инструменты, такие как llama.cpp, а также использование в приложении Aquaduck. Она поддерживает мультиязычную работу в соответствии с возможностями базовой Qwen3.8-27B и рассчитана на контекст до 262 144 токенов. Архитектура включает около 27,8 млрд параметров, 64 слоя, GQA с 24 Q- и 4 KV-головами и размер скрытого состояния 5120. Ключевые преимущества — существенно меньший размер по сравнению с полноточными вариантами, совместимость с экосистемой GGUF и возможность staged loading с помощью двух шардов, разделённых после слоя 32. Полный файл подходит для обычного одноузлового запуска, тогда как отдельные шардированные файлы не являются самостоятельными моделями и предназначены только для Aquaduck Arc. Квантизация Q4_K_M может снижать качество по сравнению с версиями в более высокой точности; отдельные оценки для этого размещённого варианта не проводились, поэтому его ограничения, риски и смещения соответствуют базовой модели Qwen3.8-27B. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели. При использовании необходимо соблюдать требования лицензии и рекомендации базовой карточки модели, включая корректный chat template и режимы thinking или instruct.

Qwen3.8-27B-QAT-Q2_0 — квантизированная версия Qwen3.8-27B, разработанная Samuel Yuan и предназначенная для запуска через llama.cpp. Модель представлена в формате GGUF, использует 2-битное квантование Q2_0 с учётом квантования при обучении (QAT) и занимает 8,76 ГБ. Базовая модель разработана командой Qwen; точные архитектурные параметры, поддерживаемые языки и размер контекстного окна в README не указаны. Модель ориентирована прежде всего на генерацию текста, программирование, рассуждения и tool calling. Квантование специально оптимизировано для сохранения качества кода и reasoning, поэтому подходит для устройств с менее чем 12–16 ГБ видеопамяти, включая некоторые Mac. По приведённым измерениям, согласие с FP16-моделью составляет 94,7% для reasoning, 93,3% для кода и 78,7% для tool calling. Ограничением является некоторое ухудшение мультимодальных возможностей и извлечения необработанных фактов, включая результаты на Wikitext-2; мультимодальность также не описана подробно. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-NM-DAU-UltraOptimised-VariableThinking-GGUF — это мультимодально заявленная GGUF-версия многоэтапной fine-tune и multi-stage merge-модели на базе Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, разработанная авторами проекта с использованием Unsloth. В карточке указаны поддержка английского и китайского языков, а также pipeline image-text-to-text, однако подробности о реализации визуального ввода не приведены. Модель распространяется в обычных и MTP-квантизациях, включая варианты для 4- и 8-битного представления, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: общего диалога, рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других универсальных применений. Заявлены пять режимов рассуждения и пять instruct-режимов, включая UltraXhigh и Einstein, с возможностью переключения через API, напрямую или на уровне сообщения. Основной акцент сделан на сокращении объёма reasoning-токенов, ускорении генерации и снижении избыточного «обдумывания» при сохранении детализации и качества ответа. К сильным сторонам относятся вариативные режимы работы, поддержка GGUF-квантизаций для локального использования, ориентация на подробные ответы и творческие задачи, а также заявленное улучшение качества по сравнению с базовыми моделями семейства Qwen. Ограничения состоят в том, что приведённые результаты бенчмарков и характеристики производительности не подтверждены независимыми данными, а контекстное окно, точные параметры архитектуры, требования к памяти и фактические возможности мультимодального ввода не указаны. Лицензия — Apache-2.0.

Qwen3.8-35B-A3B-Distill-GGUF — это набор GGUF-квантизаций дистиллированной модели Qwen3.8-35B-A3B, разработанный и выпущенный Empero. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и другие совместимые среды. Указанный базовый вариант создан на основе архитектуры Qwen3.6-35B-A3B и доступен для задач рассуждения и общего текстового вывода; заявленный язык — английский. Модель использует разреженную Mixture-of-Experts-архитектуру: всего около 35 млрд параметров, из которых примерно 3 млрд активны для каждого токена. Архитектура включает 30 слоёв Gated DeltaNet и 10 слоёв полной attention, а также 256 экспертов с маршрутизацией 8 экспертов на токен. Доступны варианты квантизации от 2-битных до BF16 размером примерно от 12,6 до 71,1 ГБ. Контекстный размер в карточке не указан. Для работы требуется свежая версия llama.cpp с поддержкой Qwen3.6, Gated DeltaNet и MoE. Разреженность архитектуры делает инференс заметно быстрее плотной модели аналогичного общего размера и повышает практичность запуска на CPU или при частичном переносе на GPU. При этом весь файл весов должен помещаться в оперативную или видеопамять, а при длинном контексте дополнительные затраты на KV-кэш могут существенно увеличить требования к памяти. Поддерживается ввод изображений через отдельный vision projector, однако поведение визуальной части не оценивалось. Модель выводит рассуждения в блоках <think>, которые при необходимости следует удалять перед показом ответа пользователю. Весовые файлы распространяются по лицензии Apache-2.0, унаследованной от базовой модели Qwen. Для квантизаций рекомендуется выбирать вариант с учётом доступной памяти и требуемого качества; в карточке наиболее сбалансированным указан Q4_K_M.

mlx-community/Qwen3-8B-Base-bf16 — текстовая авторегрессионная модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 7,6 млрд параметров. Репозиторий mlx-community содержит версию для MLX, преобразованную из Qwen/Qwen3-8B-Base с помощью mlx-lm 0.24.0. Модель предназначена для генерации текста и дальнейшей адаптации под прикладные задачи. Она принимает текст и выдаёт текст; нативная длина контекста составляет 32 768 токенов. В метаданных указана лицензия Apache-2.0. README не приводит сведений о конкретной языковой специализации или оценках качества.

LaTexT разработала дообученную версию Qwen3-8B для генерации текста в диалоговом формате. Модель построена на плотной архитектуре Qwen3 и содержит 7,6 млрд параметров; она обучена с помощью TRL на датасете shannons/ot3-1.2m-50k-converted. Для запуска в README приведён пример с библиотекой Transformers. Модель рассчитана на диалоговую генерацию текста и может использоваться для ответов на вопросы и выполнения инструкций. Метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет 40 960 токенов; базовая Qwen3-8B описана как многоязычная модель, пригодная для рассуждений и работы с кодом. Это экспериментальный чекпойнт из серии обучения latent-COT: в README указаны итерация 2, версия v3, вес 0,2 и размер gist 7. Лицензия в предоставленных данных не указана.

Qwen3-Coder-480B-A35B-Instruct-MLX-8bit — это 8-битная версия модели Qwen3-Coder-480B-A35B-Instruct, разработанной Qwen. Квантование в формате MLX выполнено командой LM Studio с использованием mlx_lm и предназначено для работы на компьютерах с Apple Silicon. Модель относится к классу генеративных текстовых моделей и ориентирована прежде всего на задачи программирования и обработки текстовых запросов, включая использование в локальной среде через LM Studio. В README указано, что для работы требуется LM Studio версии 0.3.20 или новее. Архитектура исходной модели, число активируемых параметров, поддерживаемые языки и размер контекстного окна в предоставленных данных не уточняются. Ключевое преимущество варианта — 8-битное представление, оптимизированное для экосистемы Apple Silicon, что делает модель более подходящей для локального запуска с меньшими требованиями к памяти по сравнению с полноразмерной версией. Ограничения связаны с зависимостью от совместимого программного окружения и оборудования, а также с тем, что модель может генерировать неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache-2.0.

Qwen3-HereticLM-4B — плотная языковая модель семейства Qwen3, созданная Yamatazen с помощью слияния SLERP двух предварительно обученных моделей: yamatazen/Qwen3-4B-HereticCPT и heretic-org/Qwen3-4B-Instruct-2507-heretic. Модель содержит 3,7 млрд параметров, работает через Transformers и распространяется в формате safetensors; для слияния использованы веса bfloat16. Модель предназначена для генерации текста и диалоговых сценариев. В карточке базовой модели отмечены abliteration для снижения частоты отказов и поддержка длинного контекста; заявленная длина контекста составляет 262 144 токена. Основной язык и отдельные специализированные области применения в предоставленных данных не определены. Модель выпущена под лицензией Apache-2.0. Данные не содержат независимых оценок качества или подробностей о поведении конкретно этого слитого чекпойнта, поэтому результаты могут зависеть от запроса и способа использования.

DavidAU/Qwen3-Jan-Nano-128k-6B-Brainstorm20x — инструкцияционная языковая модель для генерации текста, кода и диалогов. В основе лежит Menlo/Jan-nano-128k; автор сообщает о применении адаптера Brainstorm 20x, настроенного на улучшение генерации кода и решения задач. В метаданных архитектура указана как плотная Qwen3ForCausalLM, размер — 5,4 млрд параметров, формат весов — safetensors. Модель принимает текст и поддерживает контекст до 131 072 токенов. Карточка описывает её применение для программирования, многошаговых задач, творческого письма и мозгового штурма. Автор отмечает более подробную и нюансированную прозу, а также более строгое следование инструкциям; эти наблюдения представлены как субъективные результаты тестирования. Указанная лицензия — Apache-2.0. Для запуска README рекомендует шаблон Jinja или ChatML и приводит настройки сэмплирования; для сложных многошаговых задач автор советует варианты квантования Q6 или Q8. Карточка не приводит независимых бенчмарков, поэтому заявления об улучшениях не следует считать подтверждённой оценкой качества.

Модель thao-uyen1508/qwen3_MT_epoch1_16bit — дообученная автором thao-uyen1508 плотная языковая модель Qwen3 с 14 млрд параметров. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель обучалась с Unsloth и библиотекой TRL и распространяется в формате safetensors. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 40 960 токенов. Она основана на unsloth/qwen3-14b-unsloth-bnb-4bit и выпущена по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-Amy — дообученная автором haron1100 модель для генерации текста и диалогов. Она основана на разреженной архитектуре Qwen3-Next MoE и поддерживает вызов инструментов через соответствующий интерфейс. Репозиторий содержит веса в формате safetensors; обучение выполнялось с Unsloth и библиотекой Hugging Face TRL. Модель принимает текст и генерирует текст, в том числе ответы в диалоге. Унаследованная длина контекста составляет 262 144 токена; метаданные указывают английский язык. Модель опубликована по лицензии Apache-2.0.