Qwopus3.5-9B-Coder-MTP — это набор квантованных вариантов модели Jackrong/Qwopus3.5-9B-Coder, опубликованный пользователем noctrex.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
В модель добавлен слой MTP (Multi-Token Prediction), предназначенный для ускорения генерации. По тегам модель относится к семейству Qwen и архитектуре Qwen3.5 MoE; базовая модель имеет размер 9B параметров. README также указывает специализацию imatrix на задачах программирования.
Модель предназначена прежде всего для генерации и обработки кода, включая локальный запуск через llama.cpp. По заявлению автора, на видеокарте AMD 7900 XTX с Vulkan backend скорость выросла примерно с 80 до 120 токенов в секунду, однако это результат конкретного теста и может отличаться в других условиях. Данные о поддерживаемых языках, размере контекста, точных модальностях, качестве, ограничениях и лицензии в README не указаны. Для использования требуется актуальная версия llama.cpp и загрузка выбранного варианта квантования.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
These are quantizations of the model Jackrong / Qwopus3.5-9B-Coder
I've added the MTP layer on it.
My personal speed improvement on my 7900XTX with the vulkan backend has been from ~80 tps to around ~120 tps.
An imatrix has been calulated for coding tasks, as such it is specialized for coding.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).