Характеристики

Лицензия: Своя лицензия
Базовая модель: Qwen3.8-Flash-Next
Библиотека: llama.cpp
Опубликована: 26 авг 2026

Ссылки

Qwen3.8-Flash-Next-GGUF

Изображение и текст → текст11 профессий

vumpt/Qwen3.8-Flash-Next-GGUF — это GGUF-конверсия экспериментальной гибридной модели Qwen3.8-Flash-Next, разработанной командой Qwen.

1 980скачиваний за 30 дней1лайквеса обновлены26 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для запуска и инференса через llama.cpp; заявленные сценарии включают обработку текста, а также задач image-text-to-text. Исходные веса имеют формат BF16, а представленная версия использует квантизацию Q4_K_M и занимает около 120 ГБ.

Архитектура сочетает Gated DeltaNet, Qwen Sparse Attention, разреженную MoE-структуру с 512 экспертами и таблицу n-граммных эмбеддингов PLE. Всего модель содержит около 125 млрд параметров MoE, из которых активно используется около 6 млрд, дополнительно 51 млрд параметров приходится на n-граммную таблицу и 4 млрд — на MTP; суммарно заявлено около 180 млрд параметров. Эксперты, attention и FFN преимущественно квантизированы в Q4_K_M, эмбеддинги и выходной слой — в Q6_K, а таблица PLE — в Q5_0.

Сильной стороной модели является сочетание крупной общей ёмкости с малым числом активных MoE-параметров, что потенциально снижает вычислительную нагрузку при сохранении возможностей большой модели. Основное ограничение — экспериментальная архитектура поддерживается только специальной веткой llama.cpp, связанной с PR #27742; актуальная основная ветка на момент публикации её не загружает. Языки и размер контекстного окна в README не указаны. Лицензия обозначена как qwen-community-1.0.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8-Flash-Next — GGUF (Q4_K_M)

GGUF conversion of Qwen/Qwen3.8-Flash-Next, the Qwen4-experimental hybrid model (Gated DeltaNet + Qwen Sparse Attention + 512-expert MoE + n-gram "PLE" embedding table).

125B total MoE params (6B active) + 51B n-gram table + 4B MTP = 180B params
Converted with the in-flight llama.cpp PR #27742 (qwen4exp architecture support)

Quantization layout

Q4_K_M recipe. Because several tensor shapes in this architecture aren't divisible by 256, llama.cpp's type-fallback applies per-tensor (this is a feature of PR #27742's quantizer fixes, not an error):

Component	Quant
MoE experts / attention / FFN	Q4_K_M (fallback to Q5_0/q8_0 where ncols % 256 ≠ 0)
Token embedding + output	Q6_K
N-gram (PLE) hash table (51B params)	Q5_0 (160-col layout → falls back from Q6_K)

Files

File	Quant	Size
`qwen3.8-flash-next-Q4_K_M.gguf`	Q4_K_M	~120 GB

Usage (llama.cpp)

git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
git fetch origin pull/27742/head:qwen4exp && git checkout qwen4exp
cmake -B build && cmake --build build -j --target llama-cli
./build/bin/llama-cli -m qwen3.8-flash-next-Q4_K_M.gguf -p "Hello" -ngl 99

Note: This architecture is only supported on the PR #27742 branch. Mainline llama.cpp (as of this writing) does not load qwen4_exp. Use the branch above.

Source

Weights: Qwen/Qwen3.8-Flash-Next (bf16, 360 GB)
License: qwen-community-1.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · llama.cpp

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: 83a79fc