/ Модель

Характеристики

Контекст
262 144 токена
Параметры
2,3 млрд
Лицензия
Apache 2.0
Архитектура
qwen3_next · MoE
Базовая модель
Qwen3-Coder-Next
Библиотека
transformers
Опубликована
19 авг 2026

taq-qwen3-coder-next-outlier-4bit

Генерация текстаТекст → текст7 профессий

Исследовательский чекпойнт Qwen3-Coder-Next для генерации кода и многошаговой разработки, подготовленный как оценочный артефакт TAQ-квантизации.

27скачиваний за 30 дней0лайковвеса обновлены19 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TAQ Qwen3-Coder-Next outlier_4bit — исследовательский чекпойнт на основе Qwen/Qwen3-Coder-Next, созданный в рамках Tail-Aware Quantization. Архитектура — MoE-декодер для генерации текста; в метаданных указано 2,3 млрд параметров и контекст до 262 144 токенов. Модель ориентирована на задачи кодирования и работу в диалоговом режиме с интерфейсом вызова инструментов.

Несмотря на обозначение 4-bit, репозиторий содержит деквантизированные тензоры BF16/FP16 для оценки, а не упакованный 4-битный формат: README не заявляет снижения занимаемого места на диске или VRAM. Для чекпойнта приведено значение PPL 12,38 на WikiText-2; сопоставимые оценки на HumanEval+ и MBPP+ ещё ожидаются. Лицензия — Apache-2.0.

Сценарии применения

  • генерация фрагментов кода по текстовому запросу
  • помощь в многошаговой разработке с вызовом инструментов
  • диалоговое решение задач программирования
  • экспериментальная оценка метода TAQ для кодирующих моделей

Ограничения

Это оценочный чекпойнт, а не упакованная 4-битная модель: файлы содержат деквантизированные BF16/FP16 тензоры и не обещают снижения требований к диску или VRAM. Сопоставимые оценки на HumanEval+ и MBPP+ ещё не опубликованы.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TAQ Qwen3-Coder-Next — outlier-preserving 4-bit research scaffold

This repository contains the completed Tail-Aware Quantization (TAQ) outlier_4bit research checkpoint derived from Qwen/Qwen3-Coder-Next.

Important storage/deployment note

The tensors in this repository are the dequantized BF16/FP16 evaluation scaffold produced by the research pipeline. They are loadable with Transformers, but they occupy approximately the original checkpoint size on disk. This repository is not yet a packed 4-bit deployment format and does not claim a physical VRAM or disk-size reduction.

The quantization accounting measured during construction is:

  • Total parameters: 79,674,391,296
  • Quantized parameters: 77,787,561,984 (97.63%)
  • Untouched parameters: 1,886,829,312
  • Exact whole-model logical storage: 4.4452874061 bpw
  • Logical packed bytes: 44,271,946,028
  • Logical compression versus fp16: 3.5993173305×
  • Physical dequantized scaffold bytes: 159,357,958,880
  • Group size: 128
  • Outlier fraction: 0.005
  • K-means iterations: 20

The packed-kernel representation is separate future work; do not interpret the logical bpw above as this repository's physical file size or runtime footprint.

Evaluation state

  • Full-precision reference PPL (WikiText-2, n=40): 12.376617415789612
  • Quantized PPL, HumanEval+, and MBPP+ are pending matched evaluation.

Base model

See Qwen/Qwen3-Coder-Next for architecture, usage, license, and original model documentation.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3NextForCausalLM
Ревизия весов
c1bd60e

0 моделей