I.5Создание и редактирование текста

p-e-w/Qwen3-8B-heretic — текстовая генеративная модель на базе Qwen3-8B-Base, изменённая методом abliteration, который снижает склонность исходной модели к отказам. В README приведены параметры этой процедуры и сравнение: 45 отказов из 100 запросов против 100 у оригинальной модели; это указывает на изменение поведения, но не гарантирует отсутствие отказов. Модель использует плотную авторегрессионную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и рассчитана на контекст до 40 960 токенов. Она предназначена для диалогов и генерации текста; базовое семейство поддерживает многоязычные сценарии. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. README описывает характеристики семейства Qwen3, поэтому отдельные заявления о качестве и возможностях базовой модели не следует считать оценкой именно этой модификации. Снижение отказов может приводить к ответам на запросы, которые исходная модель отклоняла.

lmstudio-community/Qwen3-8B-MLX-8bit — это 8-битная версия модели Qwen3-8B, преобразованная сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Исходная модель опубликована в репозитории Qwen/Qwen3-8B; в README указано назначение для генерации текста и совместимость с библиотекой mlx-lm. Модель предназначена для локального запуска на устройствах, поддерживающих MLX, а также для диалоговой генерации с использованием chat template. Ключевые характеристики: около 8 миллиардов параметров, 8-битное представление и текстовая модальность. Архитектура, поддерживаемые языки, размер контекста, сильные стороны и ограничения в README не описаны, поэтому их нельзя достоверно оценить по предоставленным данным. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-8B-NVFP4 — квантизированная версия языковой модели Qwen3-8B, разработанная RedHatAI на базе Qwen/Qwen3-8B. Модель предназначена для генерации текста и диалоговых сценариев, включая развёртывание чат-ботов и других приложений на основе больших языковых моделей. Она принимает текстовые данные и генерирует текст; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский, однако документация отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с использованием LLM Compressor. Размер параметров уменьшен с 16 до 4 бит, что примерно на 75% сокращает объём хранения и требования к памяти GPU. Модель рассчитана на эффективный инференс через vLLM версии 0.9.1 и новее, включая OpenAI-совместимый режим сервинга. Для калибровки использовались образцы UltraChat; в README не указаны точный размер контекстного окна и количественные результаты бенчмарков. Ключевое преимущество модели — существенное снижение потребления дисковой и GPU-памяти при сохранении совместимости с исходной Qwen3-8B. Ограничением является возможное снижение качества из-за FP4-квантизации по сравнению с неквантизированной моделью, хотя README сообщает о проведённом сравнительном тестировании без приведения результатов. Лицензия — Apache-2.0; также указано ограничение на использование способами, нарушающими применимые законы и нормативные требования.

gangwayhaste/qwen38-fcf-gguf — это набор GGUF-квантов мног stages fine-tune модели Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX, разработанной на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано, что обучение и сборка выполнялись с использованием Unsloth, методов COLD FUSION и Fable Fusion, а также датасетов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Лицензия — Apache-2.0; заявленные языки — английский и китайский. Модель предназначена для общего решения задач, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Основной акцент сделан на подробность ответов, сокращение избыточного внутреннего рассуждения и ускорение генерации, включая режимы MTP. Доступны обычные и MTP-кванты, в том числе варианты с точностью 4 и 8 бит и использованием imatrix. Размер базовой модели — 27B параметров. README также обозначает поддержку сценария image-text-to-text, однако подробности о фактических мультимодальных возможностях и максимальном размере контекста не приведены. К заявленным сильным сторонам относятся улучшенные по сравнению с базовой Qwen3.8-27B показатели на ряде бенчмарков, высокая детализация, способности к рассуждению, кодированию и художественной генерации, а также возможность запуска квантованных вариантов на потребительском оборудовании. Ограничения включают отсутствие независимой верификации заявленных результатов в предоставленных данных, неопределённость характеристик отдельных квантов и отсутствие точных требований к аппаратному обеспечению. Модель помечена как uncensored и abliterated, поэтому её поведение и уровень защитных ограничений могут отличаться от исходной модели.

Qwen3.8-Flash-Next-113B-A5B-Niwaki-3bit-GGUF — текстовая MoE-модель для диалогов и генерации текста. Базовую модель Qwen3.8-Flash-Next разработала команда Qwen; проект Niwaki сократил число маршрутизируемых экспертов по статистике их использования, восстановил качество и провёл краткую дистилляцию. Эта сборка предназначена для запуска через форк neopolita-llama.cpp на CUDA, Vulkan, Metal и CPU; стандартный llama.cpp её пока не поддерживает. Модель содержит 113 млрд параметров, из которых активно около 5,4 млрд; маршрутизируемые эксперты сохранены в 32 из 48 слоёв. Репозиторий содержит GGUF-сборки с квантованием Q3_K и Q4_K; рекомендована Q3_K. Модель принимает и выдаёт текст. В README качество оценивается примерно в 99,8% от среднего результата исходной модели по задачам, однако точность чисел и узких технических сведений ниже, а оценка проводилась только на текстовых данных с преобладанием англоязычного веб-контента. Лицензия указана как other; README отсылает к лицензии базовой модели, но её условия здесь не раскрыты. Для запуска необходим специальный форк neopolita-llama.cpp.

Qwen3.8-Flash-Next-GGUF — набор GGUF-квантизаций базовой модели Qwen3.8-Flash-Next, разработанной Qwen и сконвертированной с помощью llama.cpp пользователем 6block. Модель предназначена для генерации текста и локального запуска в совместимых инструментах, включая llama.cpp. В README указана поддержка английского и китайского языков. Модель имеет 180 млрд параметров: MoE-ядро объёмом 125 млрд параметров с 48 слоями и 512 экспертами, из которых для токена выбираются 10 экспертов и один общий, а также 51-миллиардная PLE n-граммная таблица. Используется гибридное внимание: линейное внимание Gated DeltaNet чередуется с блоками Qwen Sparse Attention и дополняется hyper-connections. Заявленная длина контекста — до 262 тысяч токенов. Один слой MTP для чернового прогнозирования был исключён при конвертации. Доступны варианты BF16, IQ4_XS, IQ3_XXS, IQ2_XS-layered и IQ1_M-layered размером примерно от 76,4 до 329,7 ГиБ. Квантизация откалибрована с использованием imatrix; каждый вариант поставляется в восьми shards. Layered-варианты сильнее сжимают PLE-таблицу и сохраняют более высокую точность критичных компонентов, что по данным README улучшает показатель perplexity по сравнению с равномерной квантизацией при сопоставимом или меньшем размере. Основные ограничения — очень большой объём файлов, необходимость загрузки всех восьми частей и зависимость от совместимого ПО и доступной памяти. Модель распространяется по Qwen Community License 1.0, а не по MIT.

cygnal/Qwen3.8-Flash-Next-Heretic2-IQ4XS-Halogen — это квантованная GGUF-сборка Qwen3.8-Flash-Next, подготовленная для Halogen Flash Server разработчиком cygnal. Исходные веса модели прошли abliteration методом direction-removal в Heretic v1.3.0, затем были переквантованы в смешанном формате: преимущественно IQ4_XS для экспертных весов, Q8_0 для плотных слоёв и IQ4_NL для per_layer_token_embd.weight. Архитектура qwen4exp использует гибрид DeltaNet, SSM и attention; заявлено около 166 млрд параметров всего и 27 млрд активных на токен. Модель предназначена для диалоговой генерации текста и может принимать изображения при подключении отдельного vision tower. Сборка оптимизирована для Halogen Flash Server и AMD Strix Halo с ROCm; в README приведены измерения производительности на Radeon 8060S и требования примерно к 117 ГБ объединённой памяти. Видео не поддерживается. Для использования нужны совместимые сервер и аппаратное обеспечение; vision tower и MTP head поставляются отдельно. Лицензия — Apache-2.0.

JANGQ-AI подготовила JANG_4S — квантованный 4-битный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX и vMLX. В основе лежит экспериментальная архитектура Qwen4: разреженная MoE-модель на 125 млрд параметров с 6 млрд активных, большой хешированной n-граммной таблицей эмбеддингов, гибридными слоями Gated DeltaNet и Qwen Sparse Attention, а также башнями для обработки изображений и видео. В этой сборке сохранена голова многотокенного предсказания; таблица эмбеддингов может обслуживаться с SSD при поддержке рантайма. Модель предназначена для диалога, рассуждений, анализа изображений и видео и агентных сценариев с вызовом инструментов. Она принимает текст, изображения и видео, а контекст составляет 262 144 токена с возможностью расширения до 1 млн через YaRN. По заявлению карточки, квантование оценивали сравнением с bf16 на 5 931 отложенной позиции; качество выражено метриками KL и совпадения предсказаний. Для работы требуются значительные ресурсы: файлы занимают около 71,8 ГиБ, заявленный резидентный объём при обслуживании таблицы с SSD — около 53 ГиБ. Вызовы инструментов используют диалект Qwen XML, поэтому рантайм должен поддерживать соответствующий парсер; карточка предупреждает о несовместимости с Hermes-only парсерами. Лицензия указана как other, её конкретные условия в предоставленных данных не раскрыты.

Qwen3.8-Flash-Next-mixed-NVFP4-FP8 — это квантованная версия Qwen3.8-Flash-Next, подготовленная командой Primitive AI. Модель предназначена для мультимодальных сценариев image-text-to-text, генерации текста, рассуждений и вызова инструментов. Она поддерживает работу через Transformers и vLLM, включая tool calling с thinking, parser qwen3_coder и speculative decoding MTP. Модель имеет размер около 183,7 ГБ и использует смешанную точность NVFP4, FP8 и BF16 в формате compressed-tensors. Полноразмерные и линейные attention-проекции переведены в FP8, что сокращает нагрузку на память и ускоряет декодирование. Заявлена работа на одной GPU Blackwell с 96 ГБ видеопамяти и примерно 100 ГБ оперативной памяти; измерения проводились при контексте 32 768 токенов и до 36 последовательностей. Нативный контекст базовой модели указан как 262 144 токена, а для более длинного контекста предлагается RoPE-масштабирование YaRN. По данным карточки, модель сохраняет сопоставимое с обычной NVFP4-сборкой качество при показателях 92,2 для knowledge, 84,8 для call и 56,7 для abstain, а также достигает 84,4 токена в секунду в однопоточном режиме и 526 токенов в секунду при concurrency 32. Основное ограничение — необходимость использовать переменную VLLM_GDN_DECODE_KERNEL=triton: стандартное CUDA-ядро может зависать при высокой конкуренции. Для запуска также требуются специальные параметры vLLM, значительный объём RAM и совместимое оборудование Blackwell. Модель распространяется по лицензии Qwen Community 1.0.

Vontra/Qwen3.8-Flash-Next-MLX-4bit — общественная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной Qwen, для запуска на устройствах с Apple Silicon. Конверсия выполнена Vontra непосредственно из официального BF16-чекпойнта и предназначена для задач генерации текста и обработки изображений в сценариях vision-language. Модель использует архитектуру qwen4_exp с разреженной смесью экспертов, объединяющую Gated DeltaNet, Qwen Sparse Attention, разреженные MoE-слои, расширенные gated residual-потоки и хешированные bigram/trigram-эмбеддинги. Языковая часть содержит 125 млрд параметров, из которых активно используется около 6 млрд, а таблицы n-gram-эмбеддингов включают 51 млрд параметров. Архитектура имеет 48 слоёв, 512 маршрутизируемых экспертов с активацией 10 экспертов и одного общего, 24 attention heads и 2 KV heads. Заявленный контекст — до 262 144 токенов; сохранены исходные токенизатор, chat template, vision processor и настройки генерации. Весы представлены в формате MLX safetensors и подвергнуты 4-битному аффинному квантованию с group size 32, что делает модель пригодной для локального запуска через совместимые версии MLX-VLM или oMLX. На Apple M3 Studio сообщается около 24,1–26,1 токена в секунду при прогретой генерации через oMLX и 31 токен в секунду в коротком standalone-тесте. К ограничениям относятся возможное снижение качества из-за квантования, высокая потребность в памяти, отсутствие опциональной MTP-head и необходимость runtime с поддержкой qwen4_exp; подключение Qwen3.8 27B MTP drafter несовместимо. Модель распространяется по Qwen Community License 1.0. Это неофициальный релиз Qwen: дизайн, обучение и исходная документация принадлежат Qwen и первоначальным авторам, а MLX-конверсия, проверка на Apple Silicon и упаковка выполнены Vontra.

Qwen3.8-Flash-Next-MLX-8bit — это 8-битная сборка модели Qwen3.8-Flash-Next, разработанная PipeNetwork для работы через MLX на компьютерах с Apple Silicon. Модель предназначена прежде всего для генерации текста, включая программирование, ответы на запросы и другие сценарии текстового вывода. В текущем runtime поддерживается только текстовый режим, хотя в составе checkpoint присутствует vision tower. Модель использует гибридную архитектуру Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts-структурой: всего около 125 млрд параметров, из которых примерно 6 млрд активируются на токен (125B-A6B). Также используется hashed n-gram embedding объёмом около 51 млрд параметров. Контекст и поддерживаемые языки в README не указаны. Модель преобразована в формат MLX и занимает около 192,2 ГБ на диске; большая часть весов квантована в 8 бит, отдельные управляющие компоненты и vision tower сохранены в bfloat16. 4B multi-token-prediction head не включён. По данным README, 8-битная версия сохраняет качество, статистически неотличимое от исходной bfloat16-модели на тесте wikitext-2, при существенно меньшем размере. Ограничения включают очень высокие требования к памяти, необходимость собственного runtime с поддержкой удалённого кода и привязку к экосистеме Apple Silicon и MLX. Лицензия — Qwen Community License 1.0.

Vontra/Qwen3.8-Flash-Next-MLX-oQ6 — это общественная MLX-конверсия базовой модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Конверсия предназначена для запуска на Apple Silicon через совместимые MLX-VLM или oMLX. Модель относится к vision-language системам и поддерживает обработку текста и изображений; в поставку также входят исходные токенизатор, шаблон диалога, обработчик изображений и конфигурация генерации. Модель использует архитектуру qwen4_exp с разреженной смесью экспертов, Gated DeltaNet, Qwen Sparse Attention, расширенными gated residual streams и хешированными bigram/trigram embeddings. Всего заявлено 125 млрд параметров языковой части, из которых активно 6 млрд, а таблицы n-грамм содержат 51 млрд параметров. Архитектура включает 48 слоёв, 512 маршрутизируемых экспертов, 10 активных экспертов и один общий, 24 attention heads и 2 KV heads; размер скрытого состояния — 2560, настроенный контекст — до 262144 токенов. Веса представлены в формате MLX safetensors и занимают около 155,78 ГБ; используется смешанная 6-битная квантизация с отдельными модулями точностью 6/8 бит. Сильными сторонами являются поддержка мультимодальных сценариев, большой контекст, разреженная архитектура и оптимизация для Apple Silicon. На Apple M3 Studio в README указана скорость генерации примерно 19,5–23,1 токена в секунду в зависимости от режима. Ограничения включают очень большой объём весов, необходимость runtime с явной поддержкой qwen4_exp и отсутствие встроенной native MTP head в данной сборке. Приведённые показатели относятся к конкретной конфигурации и могут изменяться в зависимости от длины запроса, настроек генерации, версии runtime и доступной памяти. Это неофициальный релиз Qwen, а конверсия и упаковка Vontra. Модель распространяется по Qwen Community License 1.0; текст лицензии включён в репозиторий.

RemySkye/Qwen3.8-Flash-Next-REAM-60Pct-GGUF — пользовательская высококачественная сборка модели Akicou/Qwen3.8-Flash-Next-REAM-60Pct в формате GGUF. Она предназначена для запуска и генерации текста через llama.cpp на системах примерно с 64 ГиБ оперативной памяти, включая локальные сценарии инференса. Лицензия в README не указана. Модель использует архитектуру qwen4exp и разреженную Mixture-of-Experts (MoE). В ней около 129 млрд сохранённых параметров до обрезки PLE, около 90 млрд физических параметров после неё, а на каждый токен активируется примерно 6 млрд параметров. Большая таблица PLE/n-gram была сокращена с 16 до 4 активных голов: сохранены 2 из 8 bigram- и 2 из 8 trigram-голов. Итоговый файл занимает около 56 ГБ, или 52 ГиБ. Применён смешанный профиль квантования BALANCED_MAX_PROTECTED: основные компоненты используют форматы от Q4_K до Q8_0, а критичные малые тензоры сохраняются в BF16/F32. Ключевое преимущество сборки — сохранение более высокой точности основных весов за счёт уменьшения крупной таблицы n-грамм вместо агрессивного квантования всей модели до Q2/Q3. Это делает модель практичнее на машине с 64 ГиБ RAM, оставляя место для контекста, KV-кэша, рабочих буферов и операционной системы. Ограничениями являются большой объём файла, зависимость от актуальной версии llama.cpp с поддержкой Qwen3.8/qwen4exp и возможная потеря части информации PLE из-за удаления 12 из 16 голов. Фактическое потребление памяти зависит от размера контекста, настроек llama.cpp, GPU-offload и используемого backend.

kingjones777/Qwen3.8-Flash-Next-ROCmFP4-FAST-GGUF — это квантизированная GGUF-версия модели Qwen3.8-Flash-Next, разработанная сообществом Qwen и адаптированная kingjones777 для запуска на AMD Ryzen AI Max+ 395 с интегрированной графикой Radeon 8060S, архитектурой Strix Halo и GPU-целью gfx1151. Модель предназначена для генерации текста, включая рассуждения, создание JSON, программирование и суммаризацию документов. Модель использует архитектуру qwen4exp и формат ROCmFP4; обычная версия llama.cpp её не загружает. Для работы требуется специальная ветка ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также совместимая сборка для ROCm. В README указана проверка работы с контекстом до 128K, однако размер модели, точный перечень поддерживаемых языков и модальности не приведены. Доступен speculative decoding через MTP-head, который может повышать скорость генерации, но результат проверяется основной моделью; эффективность зависит от типа задачи и настроек. Сильная сторона модели — возможность запуска крупной модели на системе с общей памятью CPU и GPU, включая длинный контекст и аппаратные оптимизации для AMD. Ограничения включают необходимость специального runtime и патчей, зависимость производительности от пропускной способности общей памяти, а также непредсказуемый выигрыш от MTP: в приведённых измерениях он ускорял часть сценариев, но замедлял другие. Лицензия указана как qwen-community-1.0.

devan-carlin/Qwen3.8-Flash-Next-W4A16 — сообщественная W4A16-квантизированная версия Qwen3.8-Flash-Next, базовую модель и лицензию которой разработала команда Qwen. Репозиторий предоставляет квантизацию и рецепт запуска на Intel XPU с использованием patched vLLM. Модель предназначена для генерации текста, рассуждений, вызова инструментов и мультимодальных сценариев с обработкой изображений; доступны текстовые и графические входы через процессор Qwen3-VL. Модель использует MoE-архитектуру с 125B параметров и примерно 6B активных параметров. Экспертные веса квантизированы в int4 по схеме group-128 с активациями A16, а отдельные компоненты, включая визуальный модуль, эмбеддинги и ряд служебных слоёв, сохранены в BF16. Поддерживается контекст до 256K токенов и FP8 KV-кэш. В составе присутствует 27-блочный vision tower, совместимый с Qwen3-VL. Для корректной работы требуется PLE n-gram table объёмом около 96 ГБ в оперативной памяти. К сильным сторонам относятся большой контекст, MoE-эффективность, поддержка изображений и возможность производительного запуска на Intel Arc Pro B70: заявлено около 53,4 токена в секунду на конфигурации из четырёх ускорителей. Ограничения существенны: необходимы четыре Intel Arc Pro B70 с суммарно 128 ГБ VRAM, не менее 128 ГБ оперативной памяти, специальная версия vLLM и закреплённые версии XPU-зависимостей. Для этого чекпойнта рекомендуется температура не выше примерно 0,7, поскольку при более высоких значениях наблюдаются повторения и деградация вывода. Модель распространяется по Qwen Community License 1.0; лицензия указана как other.

Qwen-3B-ASVD-Healed — сжатая и восстановленная дообучением версия Qwen/Qwen2.5-3B от автора Kodjaoglanian. Это плотная авторегрессионная Transformer-модель семейства Qwen2 для генерации текста и диалогов. Структурное сжатие методом Activation-Aware SVD сократило число параметров в целевых слоях, а LoRA Healing использовался для восстановления связности генерации; адаптеры объединены с весами. В репозитории доступны веса Safetensors и GGUF, включая варианты F16 и Q4_K_M. Модель содержит около 3,1 млрд параметров, поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Модель рассчитана на запуск в средах Hugging Face Transformers и на сценарии, где важны сниженные требования к памяти и вычислениям, включая развёртывание на устройствах с ограниченными ресурсами. Автор сообщает о сохранении FP16 и структурном удалении избыточных весов без необходимости динамической деквантизации. Лицензия — Apache-2.0. Сжатие с удержанием 85% дисперсии может ухудшить извлечение редких и специализированных фактов по сравнению с исходной Qwen2.5-3B. README рекомендует дополнительное дообучение для применений, где важна высокая фактическая точность в узкой предметной области.

Qwen3-EZO-8B-beta — диалоговая языковая модель с плотной архитектурой Qwen3ForCausalLM, разработанная AXCXEPT на базе Qwen/Qwen3-8B. Модель содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Она предназначена для многоходового диалога, генерации текста и параллельной обработки запросов с углублённым рассуждением по технике Deep-Think. Модель можно развернуть через vLLM с совместимым с OpenAI API интерфейсом; в карточке указана работа на одной GPU A40. README приводит внутренние оценки MT-Bench 9,08 и JMT-Bench 8,87, но предупреждает, что результаты могут отличаться при внешней оценке. Модель дообучена на Qwen3-8B, использует формат Safetensors и распространяется по лицензии Apache-2.0. В метаданных указаны японский и английский языки; результаты и заявленные возможности основаны на карточке разработчика.

SuperXyrex/qwen3-finetuned — дообученная компанией или автором SuperXyrex модель Qwen3-0.6B для генерации текста и диалогов. Она построена на плотной архитектуре Qwen3ForCausalLM, содержит 507,9 млн параметров и поддерживает контекст до 40 960 токенов. Модель рассчитана на текстовые запросы и генерацию текстовых ответов; базовая Qwen3 многоязычна, но конкретные языки и специализация дообучения не раскрыты. Модель можно применять для диалоговых сценариев и генерации текста общего назначения. В карточке приведено значение loss 2,0564 на оценочном наборе, однако набор данных, методика и результаты сравнительной оценки не описаны, поэтому по этому числу нельзя судить о качестве для конкретных задач. Лицензия — Apache-2.0.

Это вариант модели Qwen3-Next-80B-A3B-Thinking, подготовленный командой minjaechoi как экспериментальный чекпойнт r26 с разреженными экспертами MoE. Средняя точность весов маршрутизируемых экспертов составляет 2,125 бита, остальные веса — BF16; в репозитории веса сохранены в тензорах BF16 после деквантизации. Модель предназначена для генерации текста и диалога, включая сложные рассуждения, а интерфейс поддерживает вызов инструментов. Она использует архитектуру Qwen3-Next и рассчитана на контекст до 262 144 токенов. Метаданные указывают 2,3 млрд параметров, а для загрузки доступны safetensors и библиотека Transformers. Сверхнизкая точность маршрутизируемых экспертов может ограничивать качество по сравнению с исходной моделью; README характеризует этот вариант как внутренний исследовательский чекпойнт. Лицензия наследуется от Qwen3-Next-80B-A3B-Thinking.

minjaechoi/qwen3next-80b-a3b-2p25bit-r24 — исследовательский вариант Qwen3-Next-80B-A3B-Thinking с разреженной MoE-архитектурой. Веса маршрутизируемых экспертов усечены до среднего уровня 2,25 бита, остальные веса хранятся в BF16; тензоры весов сохранены в BF16 после деквантизации. Модель предназначена для генерации текста и диалоговых сценариев, включая сложные рассуждения и работу с длинным контекстом; метаданные указывают контекст длиной до 262 144 токенов и интерфейс вызова инструментов. Размер в метаданных указан как 2,3 млрд параметров. Репозиторий использует библиотеку Transformers и формат safetensors. README сообщает, что загрузка возможна через стандартные Transformers и vLLM. Модель основана на Qwen/Qwen3-Next-80B-A3B-Thinking; лицензия наследуется от базовой модели, поэтому её условия следует проверять в карточке базы. README обозначает её как внутренний исследовательский чекпойнт.

RedHatAI/Qwen3-Next-80B-A3B-Instruct-NVFP4 — квантизированная языковая модель для генерации текста и диалогового взаимодействия. Модель разработана Red Hat на основе Qwen/Qwen3-Next-80B-A3B-Instruct и использует архитектуру Qwen3NextForCausalLM. На вход принимает текст и возвращает текст; сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 по схеме NVFP4, при этом отдельные компоненты, включая lm_head, некоторые gate- и attention-слои, не квантизируются. По данным README, это уменьшает число бит на параметр с 16 до 4, а также приблизительно на 75% снижает размер модели на диске и требования к памяти GPU. Модель предназначена для инференса и может запускаться через vLLM; в приведённом примере используется tensor parallelism на двух GPU. Основное преимущество — существенное сокращение потребления памяти при сохранении назначения исходной instruct-модели. Ограничения связаны с использованием низкоразрядной квантизации, которая может влиять на качество генерации, а также с требованиями к совместимому программному и аппаратному окружению; количественная оценка влияния квантизации и подробные результаты бенчмарков в доступном фрагменте README отсутствуют. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Thinking-4bit — языковая модель для генерации текста, опубликованная сообществом mlx-community. Она представляет собой конвертированную в формат MLX версию базовой модели Qwen/Qwen3-Next-80B-A3B-Thinking; конвертация выполнена с использованием mlx-lm версии 0.27.1. Модель предназначена для запуска и генерации текста в экосистеме MLX, в частности через библиотеку mlx-lm на совместимых системах. Из известных характеристик указаны размер исходной модели 80B и 4-битное квантование, обозначенное в идентификаторе модели. Название Thinking указывает на ориентированность исходной модели на задачи, требующие рассуждений, однако README не содержит подробностей об архитектуре, количестве активных параметров, языках, размере контекста, поддерживаемых модальностях или результатах тестирования. В README также не описаны конкретные сильные стороны и ограничения качества модели; практические характеристики зависят от среды MLX и доступных вычислительных ресурсов. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; README приводит пример загрузки модели, токенизатора и генерации ответа с поддержкой chat template, если он определён.

Qwen3-Swallow-30B-A3B-CPT-v0.2 — языковая модель Swallow LLM, созданная на базе Qwen3-30B-A3B-Base методом продолжающегося предобучения. Это разреженная MoE-модель для генерации текста и диалогов; в метаданных указано 2,6 млрд параметров и контекстное окно 40 960 токенов. Модель ориентирована на японский и английский языки, включая японско-английский перевод, и сохраняет навыки решения математических задач и программирования. Модель подходит для генерации и продолжения текста, диалогов, перевода между японским и английским, а также задач по математике и коду. Разработчики сообщают об улучшенных языковых навыках японского и сохранении STEM-показателей после обучения на профильных корпусах. Для запуска авторы рекомендуют vLLM и ограничение контекста до 32 768 токенов. Модель не проходила специальное обучение для вызова инструментов и не поддерживает переключатель режима рассуждений. В README указано, что модель находится на ранней стадии исследований и разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Qwen3-Swallow-32B-CPT-v0.2 — плотная языковая модель на 29,7 млрд параметров, разработанная проектом Swallow на базе Qwen3-32B. Это вариант continual pre-training (CPT), обученный для улучшения японского языка и японско-английского перевода при сохранении и усилении навыков математики и программирования. В обучении использовались японские и английские корпуса, параллельные тексты, а также наборы данных по математике, коду, STEM и диалогам. Модель принимает текст и генерирует текст; поддерживает японский и английский языки. Метаданные указывают контекст до 40 960 токенов, а карточка рекомендует ограничивать длину контекста 32 768 токенами или меньше. Модель рассчитана на генерацию текста, диалог, перевод и задачи рассуждения, математики и программирования. Для инференса авторы преимущественно проверяли vLLM. Модель находится на раннем этапе разработки; авторы предупреждают, что её не настраивали для надёжного следования человеческим намерениям и требований безопасности. Использование инструментов явно не обучалось, а переключатель режима рассуждений не поддерживается. Лицензия — Apache-2.0.

CEIA-POSITIVO2/Qwen-4B-capado — языковая генеративная модель семейства Qwen3, опубликованная пользователем CEIA-POSITIVO2 на Hugging Face. Модель предназначена для генерации и продолжения текста, а также для диалоговых сценариев, на что указывают метаданные text-generation и conversational. Модель содержит около 3,5 млрд параметров и поддерживает контекст до 40 960 токенов. Для работы используется библиотека Transformers, а веса представлены в формате Safetensors. Эти характеристики подходят для локального запуска и интеграции в приложения, которым требуется компактная генеративная модель с длинным контекстом. Карточка модели не содержит достоверных сведений о разработчике, языках, лицензии, данных обучения, результатах оценки и рекомендуемых режимах использования. Поэтому модель следует дополнительно тестировать перед применением в продуктивных системах, а условия распространения необходимо проверять отдельно.

fluloeo/qwen-7b-evelina — дообученная автором fluloeo языковая модель семейства Qwen2.5 с плотной архитектурой Qwen2ForCausalLM. Она основана на unsloth/Qwen2.5-7B-Instruct-bnb-4bit и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет до 32 768 токенов; карточка указывает английский язык. Обучение выполнялось с использованием Unsloth и библиотеки TRL из Hugging Face. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, оценку качества или конкретные ограничения, поэтому пригодность для узких задач следует проверять отдельно.

TheTsar1209 разработал qwen-carpmuscle-v0.4 — чат-модель на архитектуре Qwen2, дообученная методом SFT на базе unsloth/Qwen2.5-14B-Instruct-bnb-4bit. Модель содержит 14 млрд параметров, использует формат ChatML и рассчитана на генерацию текста и диалоговое взаимодействие. В обучении применялись наборы данных для предварительного обучения, инструкций и чатов; данные были переформатированы, а часть некачественных ответов и отказов удалена. Модель подходит для диалогов и выполнения текстовых инструкций на английском языке. В README указан контекст обучения 8k, а метаданные каталога приводят native context 32768 токенов. Репозиторий содержит веса safetensors. Модель распространяется по лицензии Apache-2.0.

FrancescoArno94 дообучил плотную языковую модель Qwen3 с 1,7 млрд параметров на базе unsloth/Qwen3-1.7B-Base. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Для работы с контекстом поддерживается до 32 768 токенов. Модель сохранена в формате safetensors и распространяется по лицензии Apache-2.0. В README указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL для Hugging Face. Данные о специализации обучения и конкретных ограничениях качества не приведены.

Qwen2.5-VL-32B-Instruct-GGUF — квантованная версия мультимодальной инструкционной модели Qwen2.5-VL-32B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста по инструкциям и мультимодальных сценариев, включая работу с визуальными данными; в метаданных указан английский язык. Точные сведения о поддерживаемых форматах изображений, контекстном окне и внутренней архитектуре в README не приведены. Доступны варианты от BF16 и Q8_0 до низкобитных Q3- и IQ-квантований размером примерно от 14,39 до 65,54 ГБ. Квантования выполнены с использованием imatrix и поддерживаются llama.cpp, LM Studio и другими совместимыми проектами. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но могут заметно терять в качестве; для большинства сценариев рекомендуется Q4_K_M как компромисс между размером и качеством. Для запуска необходима совместимая конфигурация, способная разместить выбранный файл модели. Распространение указано по лицензии Apache-2.0. README не содержит подробных результатов тестирования, ограничений мультимодального ввода или гарантированных характеристик производительности, поэтому качество и скорость будут зависеть от выбранного уровня квантования и аппаратного обеспечения.

bartowski/Qwen_Qwen3-14B-GGUF — набор GGUF-квантизаций базовой языковой модели Qwen3-14B, разработанной командой Qwen. Квантизации выполнены bartowski с использованием llama.cpp версии b5200 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до сильно сжатых форматов объёмом около 5,32 ГБ, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, Q3- и Q2-варианты. Более крупные квантизации обычно обеспечивают более высокое качество, тогда как компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для диалогового режима в README указан шаблон с ролями system, user и assistant. README не содержит сведений об архитектурных деталях, поддерживаемых языках, длине контекста, мультимодальности или лицензии. Условия использования необходимо уточнять по документации исходной модели Qwen/Qwen3-14B и репозиторию квантизаций.