Квантованная мультимодальная Qwen3-VL для диалога, анализа изображений, творческих задач и рассуждений.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Phr00t подготовил GGUF-квантование iQ5KS модели Qwen3-VL-32B-Instruct-heretic-v2 с использованием imatrix. Репозиторий предназначен для запуска мультимодального диалогового ассистента, который принимает текст и изображения и отвечает текстом: например, анализирует изображения и помогает с творческими или аналитическими запросами. Автор сообщает, что использует модель для творчества и рассуждений; для работы с изображениями требуется mmproj, на который дана ссылка в README.
В основе лежит дообученная модель n0kovo/Qwen3-VL-32B-Instruct-heretic-v2; лицензия — Apache-2.0. Размер контекста и поддерживаемые языки в предоставленных данных не указаны.
Для обработки изображений требуется отдельный mmproj. Автор отмечает, что модель может уступать прежним Phr00tyMixes в эротическом ролевом отыгрыше.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
I was having trouble with other quants of this model, so I made my own. imatrix Q5K_S.
Overall, a great model which I now use over my previous Phr00tyMixes for creativity and brains. However, the Phr00tyMixes might still be better for erotic roleplay, as many of the Qwen 2.5 finetunes included train with that material.
You can find an mmproj here: https://huggingface.co/n0kovo/Qwen3-VL-32B-Instruct-heretic-v2-Q4_K_M-GGUF/tree/main
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).