Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3-VL-8B-Instruct-Unredacted-MAX
Библиотека: gguf
Опубликована: 10 апр 2026

Ссылки

Qwen3-VL-8B-Instruct-Unredacted-MAX-Quants-GGUF

Описание изображенийИзображение → текст13 профессий

Qwen3-VL-8B-Instruct-Unredacted-MAX-Quants-GGUF — набор высококачественных GGUF-квантизаций мультимодальной модели prithivMLmods/Qwen3-VL-8B-Instruct-Unredacted-MAX.

1 191скачиваний за 30 дней10лайковвеса обновлены13 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для диалогового взаимодействия, генерации текста и анализа изображений, включая задачи image-to-text, описания изображений и визуального распознавания. В README заявлена версия без ограничительных фильтров.

Модель основана на архитектуре Qwen3-VL и содержит 8 миллиардов параметров. Поддерживаются текстовая и визуальная модальности, а также английский, русский и китайский языки. Доступны варианты квантования Q2_K, Q3_K_M, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16; Q4_K_M рекомендован как баланс скорости и качества, а F16 служит эталонным вариантом с базовым качеством. Для обработки изображений требуется отдельный vision projector mmproj, доступный в форматах F32, F16, BF16 и Q8_0.

Преимуществами являются совместимость с llama.cpp и другими GGUF-совместимыми средами, выбор вариантов под разные требования к памяти и производительности, а также полноценная поддержка изображений при использовании mmproj. К ограничениям относятся компромиссы между размером, скоростью и качеством у разных квантований; варианты Q2_K и Q3_K_M характеризуются более заметной потерей качества, а визуальные задачи требуют дополнительного файла проектора. Лицензия — Apache-2.0.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-VL-8B-Instruct-Unredacted-MAX-Quants-GGUF

This repository contains high-quality GGUF quantizations for the prithivMLmods/Qwen3-VL-8B-Instruct-Unredacted-MAX model.

Highlights

Unredacted & MAX: Maximum performance version without restrictive filters.
Full Vision Support: Includes multiple versions of the vision projector (mmproj) for different hardware needs.
Optimized: Compatible with the latest llama.cpp and other GGUF-supported backends.

Files Included

1. Model Weights (LLM)

Filename	Quant Method	Description
`Q4_K_M.gguf`	Q4_K_M	Recommended. Best balance of speed and intelligence.
`Q8_0.gguf`	Q8_0	High quality, nearly identical to original weights.
`Q6_K.gguf`	Q6_K	Very high quality, slightly slower than Q4.
`Q5_K_M.gguf`	Q5_K_M	Good balance between Q4 and Q6.
`Q3_K_M.gguf`	Q3_K_M	Low size, moderate quality loss.
`Q2_K.gguf`	Q2_K	Smallest possible size, significant quality loss.
`F16.gguf`	F16	Baseline reference quality.

2. Vision Projectors (mmproj)

Required for image recognition tasks.

Filename	Type	Description
`mmproj-f32.gguf`	F32	Absolute maximum precision (2.3GB).
`mmproj-f16.gguf`	F16	Industry standard for high-quality vision.
`mmproj-bf16.gguf`	BF16	Optimized for modern NVIDIA GPUs (Ampere+).
`mmproj-q8_0.gguf`	Q8_0	Best for saving VRAM without losing recognition detail.

Usage

To use vision capabilities in llama.cpp, use the following command:

./llama-cli -m Qwen3-VL-8B-Instruct-Unredacted-MAX.Q4_K_M.gguf \
            --mmproj Qwen3-VL-8B-Instruct-Unredacted-MAX.mmproj-f16.gguf \
            --image path/to/your/image.jpg \
            -p "Describe this image"

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · gguf

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: d2db200