GGUF-вариант Qwen3-VL-30B-A3B-Instruct с контекстом до 1 млн токенов для диалогового анализа изображений и видео.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
noctrex публикует GGUF-версии модели Qwen3-VL-30B-A3B-Instruct — мультимодальной модели Qwen с архитектурой Vision-Language для диалогового анализа изображений и видео. Это вариант с контекстом до 1 млн токенов, к которому применена imatrix; файлы доступны в форматах GGUF BF16, F16 и F32. Для запуска автор рекомендует использовать актуальную версию llama.cpp.
Модель предназначена для диалогов по изображениям и видео, визуальных вопросов и ответов, OCR и пространственных рассуждений. Она принимает текст и изображения и выдаёт текст; метаданные также указывают поддержку vision и chat. Языковые характеристики в предоставленных данных не описаны. Это квантизированное представление базовой Qwen3-VL-30B-A3B-Instruct, поэтому для точного применения следует учитывать свойства исходной модели и выбранного файла GGUF. Лицензия в доступных данных не указана.
Предоставленные данные не уточняют языки, качество на отдельных задачах или лицензию. Для запуска требуется актуальная версия llama.cpp; поведение и требования к ресурсам могут зависеть от конкретного файла GGUF.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
These are quantizations of the model Qwen3-VL-30B-A3B-Instruct
Original model: https://huggingface.co/unsloth/Qwen3-VL-30B-A3B-Instruct
This is the 1M context length variant from unsloth, with their imatrix applied to it.
Download the latest llama.cpp to use them.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).