Характеристики

Контекст: 262 144 токена
Параметры: 5,1 млрд
Лицензия: Apache 2.0
Архитектура: qwen4_exp_text · MoE
Базовая модель: Qwen3.8-Flash-Next
Опубликована: 27 авг 2026

Ссылки

Hugging Face

qwen3.8-flash-coder-selective-int8

Jab1718

Генерация текстаТекст → текст7 профессий

Сжатая MoE-модель Qwen для генерации кода и программных диалогов с выборочной INT8-квантизацией.

438скачиваний за 30 дней13лайковвеса обновлены28 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3.8-Flash-Coder Selective INT8 — сжатая версия модели Qwen3.8-Flash-Next, опубликованная Jab1718 и предназначенная для генерации кода и диалогового использования. Это языковая MoE-модель с 48 слоями, 128 экспертами на слой и выбором восьми активных экспертов. По README, матрицы маршрутизации и внимания сохранены в BF16, а параметры FFN-экспертов сжаты до INT8; файлы Safetensors занимают около 19,7 ГБ. Метаданные указывают 5,1 млрд параметров и контекст до 262 144 токенов.

Модель предназначена для генерации и дополнения кода, в том числе на Python и Rust, а также для программных диалогов. README заявляет прохождение всех четырёх проверок на стандартных тестах Python и Rust; это ограниченный набор оценок и не гарантирует качество на других языках программирования и задачах. Указанная лицензия — Apache 2.0.

Сценарии применения

генерация кода на Python
генерация кода на Rust
дополнение фрагментов программного кода
ответы на вопросы по программированию
диалоговое взаимодействие с кодовым ассистентом

Ограничения

Заявленные результаты оценки ограничены четырьмя проверками Python и Rust; качество на других задачах и языках программирования не установлено. README содержит утверждения о точности, которые не сопровождаются описанием методики оценки.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🚀 Qwen3.8-Flash-Coder (Selective INT8 Quantized - ~19.7 GB)

Qwen3.8-Flash-Coder (Selective INT8) is an ultra-compressed, zero-loss MoE architecture derived from Qwen/Qwen3.8-Flash-Next (335GB).

🌟 Architectural Breakthrough: Selective Quantization

100% Native BF16 Precision for Router & Attention: The routing gate matrices across all 48 layers are preserved in full BF16 precision, eliminating 100% of quantization noise and softmax distortion.
Selective INT8 Compression for 128 FFN Experts: Compresses 93% of the model parameters into INT8 per-channel quantization, reducing total memory from 65.32 GB down to ~19.72 GB.
Fits on a Single 32GB GPU: Seamlessly deployable on 1x NVIDIA RTX 5000 Ada (32GB), RTX 4090 (24GB), or A100/H100 with ample headroom for KV Cache.

📊 Technical Specifications

Base Architecture: 48 MoE Layers (128 Routed Experts / Layer, Top-8 Active)
Model Size: ~19.7 GB Safetensors (Single GPU Native Deployment)
Accuracy Pass Rate: 100.0% (4/4 Pass) on Python & Rust standard evaluation benchmarks.
License: Apache 2.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen4ExpForCausalLM
Ревизия весов: b9367fe