/ Модель
Каталог

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3-Coder-30B-A3B-Instruct
Опубликована
27 сен 2025

Ссылки

Hugging Face

Qwen3-Coder-30B-A3B-Instruct-f16

geoffmunn
Генерация текстаТекст → текст14 профессий

Конверсия инструктивной MoE-модели Qwen3-Coder-30B-A3B-Instruct в GGUF F16 для локальной генерации кода, диалога и агентных сценариев.

2 943скачиваний за 30 дней4лайкавеса обновлены20 фев 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это конверсия модели Qwen3-Coder-30B-A3B-Instruct в формат GGUF F16, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения, включая LM Studio, OpenWebUI и GPT4All. В основе — инструктивная MoE-модель Qwen, предназначенная для программирования, диалога и агентных сценариев.

Модель подходит для генерации и объяснения кода, решения задач по программированию и математике, работы с RAG и интеграции с инструментами. В метаданных перечислена поддержка английского, китайского, испанского, французского, немецкого, русского, арабского, японского, корейского и хинди. Базовая модель поддерживает контекст до 262 144 токенов.

Репозиторий содержит вариант GGUF F16; README также описывает доступные квантизованные варианты и компромиссы между размером, скоростью и качеством. Это конверсия сообщества, не связанная с Alibaba Cloud или командой Qwen. Лицензия — Apache-2.0.

Сценарии применения

  • генерация и дополнение программного кода
  • объяснение кода и помощь при отладке
  • решение задач по программированию и математике
  • локальный чат с инструктивной языковой моделью
  • ответы по документам в RAG-сценариях
  • создание локальных агентов с вызовом инструментов

Ограничения

Качество и скорость зависят от выбранного варианта квантизации и доступной памяти; README предупреждает о снижении качества у низкоразмерных вариантов. Репозиторий является конверсией сообщества, а не официальным выпуском команды Qwen.

Для каких профессий подходит14

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиII.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764моделиII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-Coder-30B-A3B-Instruct-f16-GGUF

This is a GGUF-quantized version of the Qwen/Qwen3-Coder-30B-A3B-Instruct language model.

Converted for use with llama.cpp, LM Studio, OpenWebUI, GPT4All, and more.

💡 Key Features of Qwen3-Coder-30B-A3B-Instruct:

Available Quantizations (from f16)

LevelQualitySpeedSizeRecommendation
Q2_KMinimal⚡ Fast11.30 GBOnly on severely memory-constrained systems.
Q3_K_SLow-Medium⚡ Fast13.30 GBMinimal viability; avoid unless space-limited.
Q3_K_MLow-Medium⚡ Fast14.70 GBAcceptable for basic interaction.
Q4_K_SPractical⚡ Fast17.50 GBGood balance for mobile/embedded platforms.
Q4_K_MPractical⚡ Fast18.60 GBBest overall choice for most users.
Q5_K_SMax Reasoning🐢 Medium21.10 GBSlight quality gain; good for testing.
Q5_K_MMax Reasoning🐢 Medium21.70 GBBest quality available. Recommended.
Q6_KNear-FP16🐌 Slow25.10 GBDiminishing returns. Only if RAM allows.
Q8_0Lossless*🐌 Slow32.50 GBMaximum fidelity. Ideal for archival.

💡 Recommendations by Use Case

  • 💻 Standard Laptop (i5/M1 Mac): Q5_K_M (optimal quality)
  • 🧠 Reasoning, Coding, Math: Q5_K_M or Q6_K
  • 🔍 RAG, Retrieval, Precision Tasks: Q6_K or Q8_0
  • 🤖 Agent & Tool Integration: Q5_K_M
  • 🛠️ Development & Testing: Test from Q4_K_M up to Q8_0

Usage

Load this model using:

  • OpenWebUI – self-hosted AI interface with RAG & tools
  • LM Studio – desktop app with GPU support
  • GPT4All – private, offline AI chatbot
  • Or directly via llama.cpp

Each quantized model includes its own README.md and shares a common MODELFILE.

Author

👤 Geoff Munn (@geoffmunn)
🔗 Hugging Face Profile

Disclaimer

This is a community conversion for local inference. Not affiliated with Alibaba Cloud or the Qwen team.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
addee54

0 моделей

    Создать бенчмарк