Характеристики

Контекст: 262 144 токена
Размер весов: 7,2 ГБ
Лицензия: Apache 2.0
Архитектура: qwen3_vl · dense
Базовая модель: Qwen3-VL-8B-Instruct
Библиотека: transformers
Опубликована: 3 ноя 2025

Ссылки

Qwen3-VL-8B-Instruct-quantized.w4a16

Изображение и текст → текст15 профессий

SherlockID365/Qwen3-VL-8B-Instruct-quantized.w4a16 — квантизированная версия мультимодальной vision-language модели Qwen/Qwen3-VL-8B-Instruct.

71 229скачиваний за 30 дней1лайквеса обновлены3 ноя 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

В карточке не указан отдельный разработчик производной версии; базовая модель связана с семейством Qwen. Модель предназначена для задач, требующих обработки текста и визуальных данных, включая мультимодальные инструкции и анализ изображений.

Модель содержит около 8 миллиардов параметров и использует архитектуру с визуальной частью, которая не подвергалась преобразованию при квантизации. Линейные слои квантизированы методом AWQ в формате W4A16: веса представлены 4 битами, активации сохраняются в формате FP16, используется group_size=128, zero_point=true и версия gemm. Контекстное окно и точный перечень поддерживаемых языков в README не указаны.

Ключевое преимущество версии — уменьшенное потребление памяти и потенциально более высокая эффективность инференса по сравнению с полноточной моделью, что удобно для запуска через совместимые инструменты, включая vLLM. Ограничения связаны с потерями точности, возможными для 4-битной квантизации, а также с зависимостью от поддержки формата AWQ и используемого программного окружения. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

code taken from : https://github.com/vllm-project/llm-compressor/blob/main/examples/awq/qwen3-vl-30b-a3b-Instruct-example.py

Qwen3-VL-8B-Instruct-AWQ

AWQ (W4A16) quantized version of Qwen/Qwen3-VL-8B-Instruct.

Quantization: AWQ, 4 bits, group_size=128, zero_point=true, version="gemm"
modules_to_not_convert: ["visual"]
Prepared with LLM Compressor oneshot AWQ. recipe = AWQModifier( targets="Linear", scheme="W4A16", ignore=[r"re:model.visual.", r"re:visual."], # drop lm_head from ignore duo_scaling=True, )

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Готовая квантизация поддерживается только для текстовых LLM (vLLM).

Класс архитектуры: Qwen3VLForConditionalGeneration
Ревизия весов: df4a298