GGUF-вариант Qwen3-VL с режимом рассуждений для диалогов и анализа изображений при контексте до 1 млн токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это GGUF-квантизации модели Qwen3-VL-30B-A3B-Thinking — мультимодальной модели с режимом рассуждений, основанной на архитектуре Qwen3-VL. Репозиторий содержит вариант с контекстом до 1 млн токенов и применённой imatrix; доступны файлы в форматах BF16, F16 и F32.
Модель предназначена для диалогов и задач, где нужно анализировать изображения вместе с текстом. Возможные сценарии включают ответы на вопросы по изображениям, визуальный анализ и OCR. Для работы с файлами репозитория README рекомендует использовать актуальную версию llama.cpp.
Это квантизированные веса базовой модели Qwen/Qwen3-VL-30B-A3B-Thinking, подготовленные в формате GGUF. В карточке не приведены сведения о лицензии и конкретных языках; ограничения качества и точности не описаны.
В карточке не указаны лицензия и языки модели. Качество отдельных задач и требования к памяти для конкретных GGUF-вариантов не описаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
These are quantizations of the model Qwen3-VL-30B-A3B-Thinking
Original model: https://huggingface.co/unsloth/Qwen3-VL-30B-A3B-Thinking
This is the 1M context length variant from unsloth, with their imatrix applied to it.
Download the latest llama.cpp to use them.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).