Характеристики

Базовая модель: Qwen2.5-Coder-32B-Instruct-bf16
Опубликована: 29 июн 2025

Ссылки

Hugging Face

mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-GGUF

featherless-ai-quants

Генерация текстаТекст → текст8 профессий

Квантованные GGUF-варианты Qwen2.5-Coder-32B-Instruct для генерации кода и ответов на запросы разработчиков.

578скачиваний за 30 дней1лайквеса обновлены29 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это размещённая Featherless AI подборка GGUF-файлов с разными вариантами квантования модели Qwen2.5-Coder-32B-Instruct. Основа — инструкционная модель на 32 млрд параметров для генерации кода и ответов на запросы разработчиков; в репозитории перечислены варианты IQ4_XS, Q2_K и Q3_K_L, а также другие файлы квантования.

Модель предназначена для диалоговой генерации кода: например, для написания фрагментов программ, объяснения кода и помощи разработчикам. Репозиторий помечен как GGUF и поддерживает сценарии чата. Лицензия и сведения о длине контекста в предоставленных данных отсутствуют.

Сценарии применения

генерация фрагментов кода по описанию задачи
объяснение и разбор программного кода
помощь разработчику в диалоговом режиме

Ограничения

В README перечислены несколько вариантов квантования, но не приведены результаты их сравнительной оценки. Лицензия и длина контекста в предоставленных данных не указаны.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Qwen2.5-Coder-32B-Instruct-bf16 GGUF Quantizations 🚀

Featherless AI Quants

Optimized GGUF quantization files for enhanced model performance

Powered by Featherless AI - run any model you'd like for a simple small fee.

Available Quantizations 📊

Quantization Type	File	Size
IQ4_XS	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-IQ4_XS.gguf	17042.26 MB
Q2_K	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q2_K.gguf	11742.69 MB
Q3_K_L	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q3_K_L.gguf	16448.10 MB
Q3_K_M	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q3_K_M.gguf	15196.85 MB
Q3_K_S	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q3_K_S.gguf	13725.60 MB
Q4_K_M	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q4_K_M.gguf	18931.71 MB
Q4_K_S	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q4_K_S.gguf	17914.21 MB
Q5_K_M	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q5_K_M.gguf	22184.52 MB
Q5_K_S	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q5_K_S.gguf	21589.52 MB
Q6_K	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q6_K	25640.64 MB (folder)
Q8_0	mlx-community-Qwen2.5-Coder-32B-Instruct-bf16-Q8_0	33207.78 MB (folder)

⚡ Powered by Featherless AI

Key Features

🔥 Instant Hosting - Deploy any Llama model on HuggingFace instantly
🛠️ Zero Infrastructure - No server setup or maintenance required
📚 Vast Compatibility - Support for 2400+ models and counting
💎 Affordable Pricing - Starting at just $10/month

Links:
Get Started | Documentation | Models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов: d38ee5d