Компактная дообученная модель Qwen2.5-Coder, предназначенная для ускорения генерации QwQ-32B-Preview методом спекулятивного декодирования, особенно в математических задачах.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Qwen2.5-Coder-0.5B-QwQ-draft — компактная черновая модель на базе Qwen2.5-Coder-0.5B-Instruct, дообученная tugstugi на датасете PowerInfer/QWQ-LONGCOT-500K в течение двух эпох для ускорения генерации QwQ-32B-Preview методом спекулятивного декодирования. Модель имеет архитектуру Qwen2, около 494,1 млн параметров и контекст до 32 768 токенов; её словарь совпадает со словарём QwQ-32B-Preview, что позволяет использовать её с vLLM без специальных обходных решений.
Основной сценарий — предлагать черновые токены для более крупной модели в математических задачах. В карточке заявлены доля принятых черновых токенов выше 0,8 и ускорение до 2,5 раза для таких задач. Это специализированная вспомогательная модель, а не самостоятельная замена QwQ-32B-Preview; лицензия в предоставленных источниках не обозначена.
Предназначена для работы как черновая модель вместе с QwQ-32B-Preview, а не как самостоятельная универсальная модель. Заявленные показатели ускорения и принятия токенов относятся к математическим задачам; лицензия в использованных источниках не обозначена.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
A draft model trained for Qwen/QwQ-32B-Preview
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…