Характеристики

Лицензия: Своя лицензия
Базовая модель: Qwen3.8-Flash-Next
Опубликована: 27 авг 2026

Ссылки

Qwen3.8-Flash-Next-GGUF

Изображение и текст → текст3 профессии

tarruda/Qwen3.8-Flash-Next-GGUF — это набор квантизированных в формате GGUF версий базовой модели Qwen/Qwen3.8-Flash-Next, подготовленный пользователем или организацией tarruda.

169скачиваний за 30 дней1лайквеса обновлены29 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для локального запуска через llama.cpp и ориентирована на мультимодальные сценарии image-text-to-text, то есть обработку изображений и текста с генерацией текстовых ответов.

Доступны варианты квантования Q5_K и IQ4_NL с размером файлов примерно 150,7 ГиБ и 97,5 ГиБ соответственно. Для работы с изображениями требуется отдельный мультимодальный проектор mmproj. В README приведён пример запуска с контекстом 262 144 токена, однако сведения о точной архитектуре, количестве параметров, поддерживаемых языках и перечне мультимодальных возможностей отсутствуют. К сильным сторонам относятся поддержка GGUF, совместимость с llama.cpp, мультимодальность и варианты квантования, позволяющие выбирать между качеством и требованиями к ресурсам. Ограничениями являются очень большой размер файлов и необходимость отдельного mmproj-файла; характеристики качества и производительности не указаны.

Лицензия обозначена как qwen-community-1.0; ссылка на её текст ведёт в репозиторий базовой модели Qwen/Qwen3.8-Flash-Next.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8 Flash Next GGUF

GGUF quantizations for Qwen/Qwen3.8-Flash-Next

Quant Recipes

Recipe	Quant Size	Default type	Tensor-specific overrides
`Q5_K`	150694.87 MiB (7.14 BPW)	`Q8_0`	`ffn_down_exps=q8_0`, `ffn_gate_exps=q5_k`, `ffn_up_exps=q5_k`, `per_layer_token_embd=q8_0`
`IQ4_NL`	97480.69 MiB (4.62 BPW)	`Q8_0`	`ffn_down_exps=iq4_nl`, `ffn_gate_exps=iq4_nl`, `ffn_up_exps=iq4_nl`, `per_layer_token_embd=iq4_nl`

Usage

#!/bin/sh
set -eu

model_dir=${MODEL_DIR:-.}
llama_server=${LLAMA_SERVER:-llama-server}

model=${MODEL:-"$model_dir/IQ4_NL/Qwen3.8-Flash-Next-IQ4_NL-00001-of-00003.gguf"}
mmproj=${MMPROJ_MODEL:-"$model_dir/Qwen3.8-Flash-Next-mmproj-Q8_0.gguf"}

exec "$llama_server" \
  --load-mode none --no-warmup \
  --model "$model" \
  --mmproj "$mmproj" \
  --ctx-size 262144 -np 1 \
  --temp 1.0 --top-p 0.95 --top-k 20 --min-p 0.0 \
  --reasoning-preserve \
  --repeat-penalty 1.0 --presence-penalty 0.0 \
  --port 8080

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: 0eb873e