/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
Qwen3.8-Flash-Next-W4A16-NVFP4
Опубликована
27 авг 2026

Qwen3.8-Flash-Next-W4A16-NVFP4-GGUF

Изображение и текст → текст7 профессий

GGUF-конверсия мультимодальной модели Qwen3.8-Flash-Next для диалога по тексту и изображениям с квантованием маршрутизируемых экспертов в NVFP4.

470скачиваний за 30 дней2лайкавеса обновлены27 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это GGUF-конверсия модели Qwen3.8-Flash-Next-W4A16-NVFP4, основанной на Qwen/Qwen3.8-Flash-Next. Модель предназначена для диалогового взаимодействия с текстом и изображениями; для мультимодального запуска основной файл нужно загружать вместе с проектором зрения mmproj, который входит в репозиторий.

Веса маршрутизируемых экспертов представлены в формате W4A16 NVFP4, а внимание, общие эксперты, маршрутизаторы, эмбеддинги, PLE и другие сохранённые тензоры — в BF16 или F32. Основной файл имеет размер 180,4 ГБ; проектор зрения BF16 — 907,5 МБ. Для запуска требуется сборка llama.cpp с поддержкой Qwen4Exp и NVFP4 GGUF. Веса MTP в набор не входят.

В метаданных указана лицензия other, поэтому конкретные условия использования следует сверить с лицензией исходной модели. Сведения о поддерживаемых языках и длине контекста в предоставленных материалах отсутствуют.

Сценарии применения

  • ответы на вопросы по изображению
  • диалог с моделью на текстовые запросы
  • описание содержимого изображений
  • анализ изображения с текстовыми инструкциями

Ограничения

Для запуска нужна сборка llama.cpp с поддержкой Qwen4Exp и NVFP4 GGUF; для обработки изображений необходимо загружать проектор mmproj вместе с основной моделью. Веса MTP отсутствуют.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8-Flash-Next W4A16 NVFP4 GGUF

GGUF conversion of axiomofmind/Qwen3.8-Flash-Next-W4A16-NVFP4, based on Qwen/Qwen3.8-Flash-Next.

The routed-expert weights use W4A16 NVFP4. Attention, shared experts, routers, embeddings, PLE, and other retained tensors remain in BF16 or F32.

Files

FileDescriptionSize
Qwen3.8-Flash-Next-W4A16-NVFP4-BF16attn-PLE-noMTP.ggufMain text model180.4 GB
mmproj-Qwen3.8-Flash-Next-BF16.ggufBF16 vision projector907.5 MB

The vision projector is required for image inputs. It is not required for text-only use.

This GGUF does not include MTP weights.

Requirements

A llama.cpp build with Qwen4Exp and NVFP4 GGUF support is required.

For multimodal use, load the main model together with the included mmproj file.

License

This model is distributed under the Qwen Community License 1.0. Refer to the official model card for architecture details, usage guidance, and limitations.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
3c2c47d

0 моделей