I.5Создание и редактирование текста

vrfai/Qwen3.6-27B-FP8 — мультимодальная модель для работы с текстом и изображениями, созданная на основе Qwen/Qwen3.6-27B. Исходную модель разработала команда Qwen (Alibaba Group), а FP8-квантизацию выполнил vrfai с использованием llm-compressor от vLLM Project. Модель предназначена для диалогов, генерации и анализа текста, программирования, а также задач, требующих обработки визуальной информации. Поддерживаются режимы с рассуждением и без него; README не содержит полного перечня языков и точных характеристик исходной модели, включая размер контекста. Используется статическая квантизация W8A8 FP8: веса и активации основных компонентов представлены в FP8 с симметричной по-тензорной схемой, при этом чувствительные компоненты, включая vision encoder, DeltaNet/linear-attention, merger и lm_head, сохранены в BF16. Формат compressed-tensors обеспечивает поддержку в vLLM. Такой подход снижает требования к памяти при сохранении качества лучше, чем более агрессивная NVFP4-квантизация; заявленный размер модели составляет около 34 ГБ. Для работы требуется GPU NVIDIA Ampere, Hopper или Blackwell с поддержкой SM 89+, рекомендовано использование vLLM или Transformers. Модель распространяется по лицензии Apache-2.0. Ограничениями являются необходимость совместимого современного NVIDIA GPU, использование trust_remote_code в приведённых примерах и отсутствие в предоставленном README подробных результатов бенчмарков, точного контекстного окна и полного описания языковой поддержки.

Lorbus/Qwen3.6-27B-int4-AutoRound — это квантизированная версия мультимодальной модели Qwen3.6-27B, разработанная на базе Qwen/Qwen3.6-27B с использованием Intel AutoRound. Модель предназначена для обработки текста и изображений, включая диалоговые сценарии, генерацию текста, объяснение сложных тем, программирование и задачи с визуальным вводом. Она совместима с Transformers и vLLM, поддерживает OpenAI-совместимый интерфейс, вызов инструментов и reasoning-сценарии. Модель представляет собой плотную VLM с 27 млрд параметров. Используется схема W4A16: веса хранятся в INT4, активации обрабатываются в FP16; размер группы — 128, квантование симметричное. Объём модели составляет около 18 ГБ вместо примерно 54 ГБ в BF16. Мультитокенная предсказательная голова MTP сохранена в BF16, что позволяет применять нативное speculative decoding в vLLM и получать примерно двукратное ускорение генерации в указанных тестах. Максимальная длина контекста в README демонстрируется до 262144 токенов. Сильные стороны модели — существенно сниженные требования к памяти, высокая скорость инференса и сохранение качества благодаря неквантизированным нормализующим слоям, router-слоям, отдельным проекциям и MTP-компоненту. Ограничения связаны с компромиссом INT4-квантования между точностью и эффективностью; заявленные показатели производительности получены на RTX 5090 и зависят от версии vLLM, аппаратного обеспечения и настроек KV-кэша. Визуальный энкодер MoonViT оставлен в исходной точности, поэтому выигрыш от квантования в основном относится к языковой части. Модель распространяется по лицензии Apache-2.0.

NVIDIA Qwen3.6-27B-NVFP4 — квантизированная версия авторегрессионной модели Qwen3.6-27B, разработанной Alibaba и оптимизированной NVIDIA с помощью Model Optimizer. Модель использует архитектуру Transformers с гибридным механизмом внимания Gated DeltaNet и Gated Attention и содержит около 27 млрд параметров. Версия NVFP4 1.0 квантизирована с помощью nvidia-modelopt v0.45.0. Модель предназначена для генерации текста, чат-ботов, AI-агентов, RAG-систем и других приложений на базе искусственного интеллекта. Согласно описанию, она принимает текст, изображения и видео, включая RGB-изображения и видео в форматах MP4/WebM, а максимальная длина контекста достигает 262 тысяч токенов. На выходе формирует текст. Возможности оценивались на задачах текстового и мультимодального рассуждения, программирования, использования инструментов, следования инструкциям и работы с длинным контекстом. К сильным сторонам относятся большой контекст, поддержка мультимодальных входных данных и оптимизация для ускоренного инференса на GPU NVIDIA. Поддерживаются vLLM, Linux и аппаратные платформы NVIDIA Hopper и Blackwell; тестирование проводилось на NVIDIA GB300. Данные о языках, исходных обучающих наборах и их объёмах не раскрыты. Для безопасного и эффективного применения необходимы дополнительные проверки на данных конкретного сценария, а заявленная совместимость ориентирована на GPU-системы NVIDIA. Модель доступна для коммерческого и некоммерческого использования на условиях лицензии Apache 2.0.

Infatoshi/Qwen3.6-35B-A3B-GGUF — это набор GGUF-конверсий базовой модели Qwen/Qwen3.6-35B-A3B, подготовленный Infatoshi для запуска в llama.cpp. Модель предназначена для генерации и обработки текста, а также для мультимодальных сценариев с изображениями и видео; для работы с визуальными входными данными требуется отдельный файл vision projector. Модель использует разреженную MoE-архитектуру: 35 млрд параметров суммарно, около 3 млрд активных параметров, 256 экспертов и один общий эксперт, маршрутизация top-8. В архитектуре сочетаются слои Gated-DeltaNet и Gated-Attention в соотношении 3:1, заявлен нативный контекст до 262 тысяч токенов. Указана поддержка английского, китайского и многоязычного применения. Доступны варианты квантования Q4_K_M, Q5_K_M, Q8_0 и BF16 с объёмом файлов от 20 до 65 ГБ. Сильными сторонами являются существенно сниженное число активных параметров при большом общем размере модели, поддержка длинного контекста и мультимодальный ввод. Вариант Q4_K_M рассчитан на одну видеокарту с 24 ГБ памяти, тогда как более качественные или менее квантованные варианты требуют 32–40 ГБ видеопамяти, частичной выгрузки или CPU. Производительность и требуемые ресурсы зависят от варианта квантования, размера контекста и режима инференса; варианты Q5_K_M, Q8_0 и BF16 не помещаются на одной 24-гигабайтной видеокарте при практически применимом контексте. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-GPTQ-4bit — это 4-битная GPTQ-квантизованная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для генерации и понимания текста, работы с изображениями, задач программирования, рассуждений, вызова инструментов и обслуживания через vLLM. Она поддерживает мультимодальные запросы с текстом и изображениями, а также спекулятивное декодирование благодаря модулю MTP. Модель использует архитектуру Mixture-of-Experts с примерно 35 млрд параметров, из которых около 3 млрд активируются для каждого токена; в каждом слое выбираются 8 из 256 экспертов. Архитектура включает 40 слоёв, чередующиеся линейное и полное внимание, визуальный энкодер ViT из 27 блоков и контекстное окно до 262 144 токенов. Экспертные модули квантизованы до INT4 методом GPTQ, тогда как визуальный энкодер, MTP, общие эксперты, эмбеддинги и ряд других компонентов сохранены в BF16 или FP16. Размер модели составляет около 25 ГБ, а измеренная деградация perplexity относительно исходной BF16-версии — около 0,83% на wikitext-2. К сильным сторонам относятся значительное сокращение размера и требований к памяти при сохранении мультимодальности, длинного контекста и поддержки инструментов. Ограничение заключается в том, что согласно README модель напрямую не загружается через GPTQModel или transformers и предназначена для инференса в vLLM; для запуска может потребоваться исправление совместимости в некоторых версиях vLLM. Модель распространяется по лицензии Apache-2.0.

palmfuture/Qwen3.6-35B-A3B-GPTQ-Int4 — GPTQ-квантизированная версия модели Qwen3.6-35B-A3B, разработанная сообществом palmfuture на базе модели Qwen. Это мультимодальная модель для работы с текстом и изображениями, поддерживающая задачи генерации текста, следования инструкциям, программирования, математических рассуждений, агентских сценариев и обработки визуально-текстовых запросов. Заявлены языки English, Thai, Chinese и multilingual. Модель использует MoE-архитектуру Qwen3_5MoeForConditionalGeneration с 35 млрд параметров в общей сложности и примерно 3 млрд активных параметров на токен. В ней 256 экспертов, из которых для каждого токена выбираются 8, и 40 скрытых слоёв. Контекстное окно составляет 262 144 токена. Квантизация выполнена в формате GPTQ v2, 4-bit, с group_size=128 и симметричным представлением; размер модели вместе с MTP-весами — около 24,4 ГБ. Веса MTP (Multi-Token Prediction) сохранены в BF16 и поддерживают speculative decoding в vLLM и SGLang. К сильным сторонам относятся существенно уменьшенный размер по сравнению с полноформатной моделью, сохранение заявленного качества на уровне около 97,9% от BF16-версии по perplexity на wikitext-2-raw-v1, поддержка мультимодальности, длинного контекста и ускоренного декодирования. Ограничения связаны с требованиями к ресурсам: для рекомендованных конфигураций требуется несколько GPU, а совместимость и параметры запуска зависят от версий vLLM, SGLang и Transformers. Квантизация может приводить к некоторой потере качества, а для архитектуры требуется trust_remote_code. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-imatrix-GGUF — это квантизированная GGUF-версия базовой модели Qwen3.6-35B-A3B, подготовленная liodon-ai с использованием калибровки importance matrix (iMatrix). Базовую модель разработала команда Qwen компании Alibaba Cloud. Модель предназначена для локальной генерации текста, диалогов и выполнения инструкций через llama.cpp, Ollama, LM Studio и Jan. Модель использует MoE-архитектуру с 35 млрд параметров, из которых активно 3,5 млрд, и поддерживает контекст до 128K токенов. Доступны варианты квантизации от Q2_K до Q8_0, включая i-кванты IQ2_M, IQ3_M и IQ4_XS. iMatrix-калибровка повышает связность и качество следования инструкциям при низкой разрядности по сравнению со стандартной квантизацией, сохраняя меньший размер файлов. Ограничения зависят от выбранного варианта: более сильная квантизация снижает качество, а для запуска требуются от 6 до 36,9 ГБ памяти в зависимости от файла. Лицензия Apache 2.0.

NVIDIA Qwen3.6-35B-A3B-NVFP4 — квантизированная версия языковой модели Qwen3.6-35B-A3B, разработанной Alibaba и подготовленной NVIDIA с использованием Model Optimizer. Модель предназначена для генерации текста, чат-ботов, AI-агентов, RAG-систем и других приложений на базе ИИ. Модель использует архитектуру Transformers с гибридным вниманием и Mixture-of-Experts (MoE): всего 35 млрд параметров, из которых активируется 3 млрд. Она поддерживает текстовые, графические и видеовходы, включая изображения RGB и видео MP4/WebM, а также контекст длиной до 262 тысяч токенов; выходом служит текст. Для запуска заявлена поддержка vLLM на Linux и NVIDIA GPU архитектур Hopper и Blackwell. Квантизация выполнена в формат NVFP4 с помощью nvidia-modelopt версии 0.44.0, что ориентировано на эффективный инференс на совместимом оборудовании. Сильными сторонами модели являются большой контекст, мультимодальные входы, MoE-архитектура с небольшим числом активных параметров и готовность к развертыванию через vLLM. Ограничения включают зависимость от совместимой NVIDIA-инфраструктуры, неполное раскрытие данных об обучении и необходимость дополнительного тестирования на данных конкретного сценария. Использование регулируется лицензией Apache 2.0; модель доступна для коммерческого и некоммерческого применения.

Qwen3.6-35B-A3B-QD-GGUF — квантизированная версия модели Qwen3.6-35B-A3B, подготовленная Quadux IT с использованием собственной методики Quadux Dynamic Quantization. Модель предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, и рассчитана на запуск через llama.cpp в формате GGUF. В основе лежит MoE-архитектура: 35,5 млрд параметров всего и около 3 млрд активных параметров на токен. Используется гибридная схема attention с контекстом до 256 тысяч токенов и низкими затратами на KV-кэш. Поддерживаются английский, немецкий и, согласно карточке, другие языки. В комплект включены MTP head и совместимый vision projector, что обеспечивает поддержку изображений при использовании соответствующей конфигурации. Доступно несколько вариантов квантизации размером примерно от 10,6 до 26,42 ГБ, рассчитанных на видеокарты с 12–32 ГБ памяти. Распределение точности выполнено по результатам измерения чувствительности отдельных тензоров, поэтому варианты ориентированы на хорошее качество при ограниченном размере. Ограничения связаны с неизбежными потерями качества квантизации, зависимостью результата от выбранного варианта и необходимостью отдельного vision projector для мультимодальной работы. Лицензия — Apache 2.0.

Riyan200324200324/Qwen3.8-27B — это GGUF-версия модели Qwen3.8-27B, основанная на Qwen/Qwen3.8-27B и модифицированная HauhauCS в профиле Aggressive. Модель предназначена для генерации текста, рассуждений, агентских сценариев, обработки изображений и видео. Aggressive-профиль ориентирован на прямые ответы без выраженного отказного поведения и с минимальным вступлением на сложных запросах; при этом README предупреждает, что для критически важных задач с длинным контекстом более сбалансированный профиль может быть надёжнее. Это плотная причинная языковая модель на 27 млрд параметров с отдельным vision-проектором BF16 для мультимодального ввода. Архитектура включает 64 слоя языковой модели, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются встроенный MTP/NextN и дополнительный профиль ускорения HauhauCS FastMTP 32K. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Заявлены английский, китайский и мультиязычный режимы. Сильные стороны модели — широкий набор текстовых и мультимодальных возможностей, большой контекст, варианты GGUF-квантизации от Q2 до Q8 и ускорение FastMTP. Ограничения включают зависимость мультимодального режима от отдельного vision-проектора, возможное снижение качества при агрессивной квантизации и менее осторожное поведение из-за uncensored-профиля. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-2bit-MLX-TextOnly — текстовая квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и преобразованная пользователем lukaskremla в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации текста, диалогов, рассуждений, работы с инструментами и задач с длинным контекстом; заявлена поддержка нескольких языков. Модель содержит около 27 млрд параметров и использует 2-битное weight-only-квантование с affine RTN-квантизацией и group size 64. Это text-to-text-модель: vision tower удалён, поэтому обработка изображений и другие визуальные сценарии не поддерживаются. Формат MLX ориентирован на запуск в экосистеме Apple MLX и mlx-lm. Точная длина контекста и архитектурные детали в README не указаны. Ключевое преимущество — существенно сниженные требования к памяти по сравнению с полноразмерной моделью, что делает её пригодной для локального запуска при сохранении возможностей исходной текстовой модели. Ограничения связаны с 2-битным квантованием, которое может снизить точность и качество по сравнению с исходной моделью, а также с отсутствием визуального ввода. Модель распространяется по лицензии Apache-2.0.

abhishekchohan/Qwen3.8-27B-AWQ-INT4 — это 4-битная AWQ-квантизированная версия модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для генерации текста, рассуждений, математических и научных задач, программирования, обработки мультиязычных запросов и работы с изображениями. Она поддерживает визуально-текстовые сценарии благодаря встроенному ViT-энкодеру. Модель имеет гибридную архитектуру с 64 текстовыми слоями, включающими стандартное attention и линейное внимание DeltaNet, а также контекст до 262 144 токенов. Используется weight-only формат W4A16: веса хранятся в INT4 с group size 32 и асимметричными zero-point, KV-кэш — в BF16. Размер весов составляет около 20 ГБ, благодаря чему модель рассчитана на запуск с родным контекстом на одной GPU с 48 ГБ памяти. На GPU с 96 ГБ возможно расширение контекста до 524 288 токенов через YaRN, однако retrieval за пределами 262 144 токенов не проверялся. Главное преимущество — существенное снижение требований к памяти при сохранении результатов, близких к BF16-версии: на 9 из 10 заявленных тестов различия находятся в пределах статистического шума, а поиск информации на длинном контексте успешно проверен до 262 144 токенов. Ограничения включают заметное снижение результата в MathVision, неполную проверку визуальных возможностей, отсутствие оценки агентных сценариев и инструментального вызова, а также отсутствие количественной валидации speculative decoding. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-BF16-INT4-W4A16-G32-AutoRound — мультимодальная языковая модель на базе Qwen3.8 Vision-Language Model, подготовленная goldhub с использованием AutoRound. Базовую архитектуру и мультимодальные возможности разработала команда Qwen. Модель предназначена для генерации и анализа текста, программирования, математических и логических рассуждений, творческих задач, а также обработки изображений и видео. Модель содержит 27 миллиардов параметров и использует квантизацию W4A16: веса представлены в 4 битах, активации — в 16 битах, размер группы — 32, применяется симметричная квантизация. Критические компоненты, включая визуальный энкодер, эмбеддинги и отдельные проекции attention, сохранены в FP16/BF16. Заявлена поддержка контекста до 256K токенов, Multi-Token Prediction, а также входных данных в форматах текст, изображение и видео. Указаны языки: английский, китайский, русский, украинский, греческий и иврит. Сильными сторонами являются сочетание мультимодальности, длинного контекста и сниженных требований к памяти по сравнению с полноразмерной моделью. README приводит результаты внутренних тестов по скорости, математике, рассуждениям, программированию и длинному контексту, однако их независимое подтверждение не представлено. К ограничениям относятся повышенные требования к видеопамяти из-за сохранённых слоёв FP16/BF16, необходимость аккуратной настройки батчинга для длинного контекста и потенциальная зависимость запуска от поддержки AutoRound, vLLM, SGLang или remote code. Модель распространяется по лицензии Apache-2.0.

infosave/Qwen3.8-27B-cmf — это квантизированная версия модели Qwen3.8-27B, преобразованная в контейнер CMF. Исходная модель разработана командой Qwen, а данный репозиторий содержит её представление для запуска через cortiq — нативный Rust-бинарник без Python и ML-фреймворков. Модель предназначена для генерации текста, диалогов, объяснения технических тем и работы через API, совместимый с OpenAI, а также через Ollama-совместимый интерфейс. Модель имеет 27 млрд параметров и гибридную архитектуру: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания. Заявлено контекстное окно до 262 тысяч токенов и режим рассуждений. Поддерживаются английский, русский и китайский языки. Доступны варианты квантизации 4-bit и 8-bit; наиболее компактный q4tp занимает 14,3 ГБ, q4t — 15,4 ГБ, а q8_2f — 27,4 ГБ. К сильным сторонам относятся большое контекстное окно, поддержка различных GPU через Vulkan, Metal и DX12, работа на CPU, совместимость с NVIDIA, AMD, Intel и Apple silicon, а также возможность спекулятивного декодирования для ускорения жадной генерации. Ограничения связаны с высокими требованиями к памяти, зависимостью производительности от оборудования и характера запроса, а также с тем, что спекулятивное декодирование применяется преимущественно для greedy-генерации и не всегда ускоряет свободный текст. Модель распространяется по лицензии Apache-2.0.

batiai/Qwen3.8-27B-GGUF — это квантизированная версия модели Qwen3.8-27B, основанной на архитектуре Qwen3.5. Квантизацию выпустила BatiAI на базе официального релиза Qwen. Модель предназначена для локального запуска через llama.cpp и Ollama, включая использование на устройствах Apple Silicon. Модель представляет собой плотную модель на 27 млрд параметров с 64 слоями, скрытым размером 5120 и словарём из 248 320 токенов. Она использует гибридную архитектуру с преимущественно линейным вниманием Gated DeltaNet и полным вниманием в каждом четвёртом блоке. Нативный контекст составляет 262 144 токена и заявлена возможность расширения до 1 млн токенов. Поддерживаются текстовые сценарии, а при подключении vision-проектора BF16 — анализ изображений и видео. Заявлены языки английский, корейский и китайский. Модель ориентирована на генерацию текста, рассуждения, планирование и агентские сценарии с обработкой обратной связи от окружения. Режим рассуждений включён по умолчанию, его можно отключать и настраивать через reasoning_effort. Доступно несколько вариантов квантизации объёмом примерно от 10,2 до 22,1 ГБ, а vision-проектор требует ещё около 0,93 ГБ. Квантизация снижает требования к памяти, но может влиять на качество по сравнению с полноточной моделью; конкретные требования зависят от выбранного варианта и оборудования. На Apple Silicon производительность разных квантизаций неодинакова, поэтому меньший файл не всегда означает более высокую скорость. Распространение указано по лицензии Apache-2.0.

Qwen3.8-27B-GPTQ-INT4 — квантованная версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем abhishekchohan. Модель предназначена для диалогов, следования инструкциям, математических и научных задач, программирования, агентских сценариев и мультиязычной работы. Она поддерживает текстовые и визуальные входы, а также нативный контекст до 262 144 токенов. Используется 4-битное асимметричное квантование весов INT4 с GPTQ, group_size=32 и статическим упорядочиванием активаций. Квантированы основные линейные слои 64 текстовых слоёв, тогда как нормализации, эмбеддинги, языковая голова, визуальный ViT-энкодер, слои DeltaNet и предиктор MTP сохранены в BF16. Размер весов составляет около 27 ГБ вместо примерно 55,6 ГБ у версии BF16. Калибровка выполнена на данных по следованию инструкциям, математике, науке, коду и мультиязычным задачам. По представленным оценкам, модель в целом сохраняет качество BF16-версии в пределах статистического шума на большинстве тестов и полностью сохраняет результаты поиска информации в контексте до 262 144 токенов. При этом на MathVision зафиксировано снижение результата на 2,5 пункта, а поведение агентских сценариев и вызова инструментов отдельно не оценивалось. Поддерживаются thinking, tool calling и speculative decoding при использовании совместимой версии vLLM; полный контекст требует значительного объёма видеопамяти. Лицензия — Apache-2.0. Расширение контекста до 1 млн токенов через YaRN в этом чекпойнте не проверялось.

Lucebox/Qwen3.8-27B-IQ4_XS-fast-GGUF — квантизированная GGUF-версия базовой модели Qwen/Qwen3.8-27B, подготовленная для проекта lucebox. Файл создан на основе IQ4_XS с imatrix-калибровкой от bartowski и полностью переквантизирован в IQ4_XS для снижения объёма и ускорения декодирования. Разработчик исходной модели — Qwen; сборку и оптимизацию файла выполнил Lucebox. Модель предназначена для генерации текста, программирования, математических задач и мультимодальных сценариев с анализом изображений. При использовании отдельного проектора Qwen3.8-27B-mmproj-Q8_0.gguf поддерживает ввод изображений через OpenAI-совместимый формат сообщений, до четырёх изображений за запрос. В README указан максимальный контекст до 131 072 токенов при соответствующей конфигурации сервера. Размер файла составляет 13,54 GiB. Для ускорения текстовой генерации предусмотрена совместная работа с черновой моделью DFlash2 и speculative decoding. Главное преимущество версии — более высокая скорость по сравнению с Unsloth UD-IQ4_XS: на указанном AMD Radeon AI PRO R9700 измерено 37,4 токена/с при обычном декодировании и 174,5 токена/с в сквозном тесте с draft-моделью. Компромисс — немного более низкое качество: относительно Q8_0 зафиксированы рост perplexity на 1,9%, top-1 agreement 92%, результат HumanEval 144/164 и GSM8K 171/200. Показатели зависят от оборудования, настроек и сценария; для задач, чувствительных к качеству, README рекомендует UD-IQ4_XS. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-NVFP4-MTP-GGUF — квантизированная версия модели Qwen3.8-27B от Qwen, подготовленная Avifenesh как артефакт сервинга для движка tiyuvta. Модель предназначена для генерации текста, диалоговых и агентных сценариев, включая вызов инструментов и работу с рассуждениями. Артефакт ориентирован на GPU NVIDIA Blackwell и поддерживает спекулятивное декодирование с MTP (multi-token prediction). Модель использует 4-битную квантизацию NVFP4 с масштабами FP8 для каждого блока из 16 значений; эмбеддинги и выходная голова имеют формат Q5_K, нормы — F32. В файл встроена MTP-голова NextN, а дополнительные masked draft heads позволяют ускорять декодирование. Указан текстовый контекст до 262 144 токенов, словарь содержит 248 320 токенов, встроен chat template с поддержкой tool calling и thinking blocks. В этой сборке нет upstream VL tower, поэтому визуальная модальность не поддерживается. Сильные стороны модели — большой контекст, совместимость с GGUF, низкое потребление памяти благодаря квантизации и возможность ускоренного декодирования. В README приведены измерения производительности на RTX PRO 6000 Blackwell и RTX 5090 Laptop, однако скорость зависит от длины вывода и нагрузки. Masked MTP-голова ограничивает множество кандидатов только на этапе чернового предсказания и, согласно описанию, не изменяет итоговый вывод; артефакт требует движка, поддерживающего соответствующие MTP-файлы и спекулятивное декодирование. Модель распространяется по лицензии Apache-2.0.

IsValorum/Qwen3.8-35B-A3B-Distill-MTP-APEX-I-MiniPlus-V2.1-GGUF — это GGUF-квантизированная версия модели empero-ai/Qwen3.8-35B-A3B-Distill, подготовленная IsValorum. Модель предназначена для генерации текста, рассуждений, программирования и других задач, поддерживаемых llama.cpp и совместимыми инструментами. Архитектура основана на разреженной смеси экспертов (MoE): заявлены 35 млрд параметров и около 3 млрд активных параметров на токен, 40 слоёв и 256 микроэкспертов. Заявленный максимальный контекст — 256K токенов. Модель поддерживает английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Квантизация APEX-I-MiniPlus V2.1 использует комбинацию форматов IQ3_XXS, Q3_K, Q5_K, Q6_K, Q8_0 и F32; размер файла составляет приблизительно 13,74 GiB. В README заявлены сохранение маршрутизации экспертов в F32, оптимизация для работы с системной RAM и поддержка Multi-Token Prediction. Для мультимодальных сценариев упоминаются отдельные компоненты mmproj и MTP, однако основная карточка относится к текстовой GGUF-модели. Сильными сторонами заявлены компактный размер при сохранении качества, поддержка длинного контекста и возможность запуска с частичной или полной выгрузкой в GPU VRAM либо системную RAM. Производительность существенно зависит от видеопамяти, процессора, пропускной способности памяти и настроек llama.cpp; приведённые в README показатели скорости и perplexity являются заявленными авторами и не подтверждены независимой проверкой. Модель распространяется по лицензии Apache-2.0.

Это версия Qwen3-8B, подготовленная Geoff Munn в формате GGUF для запуска через llama.cpp и совместимые приложения. Модель содержит 8 млрд параметров и предназначена для генерации текста, диалогов, рассуждений, работы с кодом и многоязычных задач. В карточке описаны варианты GGUF-квантизации и результаты сравнения их размера, скорости и качества; для этой версии указаны форматы GGUF и GGUF F16. Модель подходит для локальных ассистентов, суммаризации документов, структурированной генерации и автономных RAG-систем. В README отмечены высокая эффективность некоторых вариантов с imatrix и компромиссы между точностью, скоростью и объёмом памяти. Заявления о производительности зависят от конкретного варианта квантизации и оборудования. Лицензия — Apache-2.0.

RedHatAI/Qwen3-8B-FP8-dynamic — это квантизированная FP8-версия языковой модели Qwen3-8B, разработанная Red Hat совместно с Neural Magic на базе модели Alibaba Cloud Qwen/Qwen3-8B. Модель предназначена для генерации текста, рассуждений, многоязычного следования инструкциям, перевода, вызова функций и создания предметно-ориентированных решений с помощью дообучения. Она поддерживает tool calling и рассчитана на работу с текстовыми входами и выходами. Модель использует архитектуру Qwen3ForCausalLM и поддерживает китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский и ряд других языков. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8: для весов применяется симметричная статическая поканальная схема, для активаций — симметричная динамическая потокенная схема. По заявлению разработчиков, это примерно на 50% снижает требования к видеопамяти и размер на диске, а также примерно вдвое увеличивает пропускную способность матричных вычислений. Длина контекста в README не указана. Модель оптимизирована для эффективного развёртывания с использованием vLLM, включая OpenAI-совместимый сервер, и валидирована в Red Hat OpenShift AI 2.24, Red Hat AI Inference Server 3.2.1 и vLLM 0.10.0. Ограничения FP8-квантизации и отсутствие сведений о конкретных показателях качества следует учитывать при выборе модели. Распространяется по лицензии Apache 2.0; использование не должно нарушать применимое законодательство и требования экспортного контроля.

Карточка модели Mahesh111000/qwen3-8b-hanabi-init30turns-thinking-step_220 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели Mahesh111000/qwen3-8b-hanabi-primerl-step109 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели Mahesh111000/qwen3-8b-hanabi-rl-base-1to1-24k-step_115 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели Mahesh111000/qwen3-8b-hanabi-rl-base-1to1-24k-step_145 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели Mahesh111000/qwen3-8b-hanabi-rl-base-1to1-24k-step_220 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

dippitydoodle/Qwen3-8B-heretic — декензурированная версия Qwen3-8B, созданная с помощью Heretic v1.4.0. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров с архитектурой Qwen3ForCausalLM; веса представлены в формате safetensors. Модель предназначена для диалоговой генерации текста и задач, в которых требуется меньше отказов на запросы: в карточке указано 15 отказов из 100 против 100 из 100 у исходной модели. Модель унаследовала от Qwen3 поддержку диалога, рассуждений, следования инструкциям, программирования, перевода и более чем 100 языков и диалектов. Метаданные указывают контекст до 40 960 токенов. README сообщает о KL-дивергенции 0,0577 относительно оригинала; это показывает, что изменение поведения сопровождается некоторым отклонением от исходной модели. Лицензия — Apache-2.0.

RedHatAI/Qwen3-8B-quantized.w4a16 — языковая авторегрессионная модель на архитектуре Qwen3ForCausalLM, разработанная Red Hat совместно с Neural Magic на базе Qwen/Qwen3-8B. Модель работает с текстом на входе и генерирует текст на выходе; заявлены поддержка рассуждений, вызова функций, многоязычного следования инструкциям, перевода и адаптации под предметные области посредством дообучения. Модель использует квантизацию весов до INT4 в формате W4A16. Квантизуются веса линейных операторов внутри трансформерных блоков с применением GPTQ, асимметричной групповой схемы и размером группы 64; параметр lm_head исключён. Такое сжатие уменьшает число бит на параметр с 16 до 4, а заявленный размер на диске и требования к памяти GPU — примерно на 75%. Для развёртывания рекомендуется backend vLLM, включая OpenAI-совместимый режим сервинга. Сильные стороны модели — существенно сниженные требования к хранению и GPU-памяти при сохранении назначения исходной Qwen3-8B, а также пригодность для задач рассуждений, перевода и работы с инструкциями. Ограничения включают потенциальное снижение качества из-за квантизации и отсутствие в представленном README конкретных численных результатов оценки; также не указаны точный перечень поддерживаемых языков и гарантированное максимальное окно контекста. В материалах приведены конфигурации с длиной последовательности до 8192 и отдельные оценки с длиной до 40960 токенов, что не следует автоматически трактовать как универсальное ограничение модели. Модель распространяется по лицензии Apache-2.0. Использование должно соответствовать применимым законам и нормативным требованиям.

ddalcu/Qwen3.8-Flash-Next-MLX-Serve-mixed-4-8bit — это квантованный пакет модели Qwen/Qwen3.8-Flash-Next, подготовленный для mlx-serve. Модель основана на экспериментальной архитектуре Qwen4 с разреженным вниманием, Mixture-of-Experts, GDN, n-gram embedding и встроенной MTP-головой. Пакет также содержит vision tower для обработки изображений и видео. Модель предназначена для генерации текста, включая работу с кодом, длинными контекстами, диалогами, изображениями и видео, а также для сценариев с инструментами через XML-формат вызовов Qwen3.8. Заявлен нативный контекст до 262 000 токенов. Разреженное внимание после первых 2048 токенов выбирает наиболее релевантные блоки, благодаря чему стоимость внимания не растёт линейно с длиной контекста. Механизм MTP может ускорять декодирование, особенно на коде, но включается отдельно и не используется для запросов с изображениями. Полный состав оценивается в 180B параметров: 125B основной части, 51B n-gram embedding и 4B MTP-головы. Эксперты MoE хранятся в 4-bit, большинство остальных компонентов — в 8-bit, а отдельные параметры и vision tower — в bf16. Пакет рассчитан на Mac с 128 GB памяти и занимает около 75 GB резидентной памяти без учёта KV-кэша. Ограничения mlx-serve включают обработку только одного запроса одновременно, отсутствие пакетированного декодирования и возможное замедление холодного prefill длинных запросов из-за чтения n-gram-таблицы с SSD. Модель использует лицензию qwen-community-1.0; дополнительные условия следует уточнять в файле LICENSE.

cyankiwi/Qwen3-Next-80B-A3B-Instruct-AWQ-4bit — 4-битная AWQ-квантизованная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, опубликованная пользователем cyankiwi и разработанная в рамках семейства Qwen. Это каузальная текстовая модель для генерации текста, ответов на вопросы, программирования, следования инструкциям, агентских сценариев и работы с длинными контекстами. Модель поддерживает только instruct-режим без блоков рассуждений <think></think>. Архитектура сочетает Gated DeltaNet и Gated Attention с разреженной Mixture-of-Experts. Всего модель содержит 80 млрд параметров, из которых около 3 млрд активируются на каждом токене; используется 512 экспертов, 10 активных экспертов и один общий эксперт. Модель имеет 48 слоёв, контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. В README языки и мультимодальные возможности не указаны; заявлена работа с текстом. Сильные стороны — высокая эффективность по числу активируемых параметров, потенциально высокая скорость инференса, поддержка ультрадлинного контекста и конкурентные результаты в задачах знаний, рассуждений, программирования, следования инструкциям и мультиязычности. Ограничения включают необходимость совместимой версии transformers и значительные требования к вычислительным ресурсам, несмотря на 4-битную квантизацию; качество на конкретных задачах зависит от реализации инференса и квантизации. Лицензия базовой модели — Apache-2.0.