Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.8-27B
Библиотека: gguf
Опубликована: 29 сен 2026

Ссылки

Qwen3.8-27B-GGUF

Генерация текстаТекст → текст8 профессий

Квантованная GGUF-версия Qwen3.8-27B для диалогов и генерации текста с несколькими вариантами KERN для запуска при разных ограничениях на память.

884скачиваний за 30 дней0лайковвеса обновлены29 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

andrew-paul/Qwen3.8-27B-GGUF — квантованная версия Qwen3.8-27B, опубликованная автором репозитория andrew-paul в формате GGUF. В README описан набор вариантов KERN с поканальной по тензорам квантованием и несколькими уровнями размера и качества; файлы включают веса Q3_K MTP. Приведены объёмы файлов и сравнительные метрики KLD и результата теста 28Q относительно BF16, которые служат скрининговыми показателями и не являются общей оценкой возможностей модели.

Модель предназначена для генерации текста и диалогового использования. Для запуска README рекомендует сборку llama.cpp с поддержкой Qwen MTP и приводит пример конфигурации с контекстом 32 768 токенов. Варианты KERN уменьшают требования к хранению по сравнению с BF16, но имеют отличающиеся показатели сохранения качества; например, для eqQ3_S указан объём около 11,59 ГБ и средний KLD ниже 0,1. Базовая модель указана как Qwen/Qwen3.8-27B, лицензия — Apache-2.0. Метаданные описывают базовую модель как мультимодальную, однако README этого репозитория подтверждает только сценарий генерации текста.

Сценарии применения

ведение диалога с локально запущенной моделью
генерация текстовых ответов и продолжений
запуск языковой модели в llama.cpp
выбор квантованного варианта по соотношению размера и качества

Ограничения

Квантование снижает точность относительно BF16, причём результат зависит от выбранного варианта; приведённый в README тест 28Q является скрининговой метрикой, а не общей оценкой возможностей. Для запуска требуется llama.cpp со специальной поддержкой Qwen MTP.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8-27B — KERN

KERN uses per-tensor quantization to offer four size and quality tiers. eq denotes an approximate tier: individual tensors use different quantization formats. All files include Q3_K MTP weights.

Quant	GB	Mean KLD ↓	28Q (% of BF16)
KERN-eqQ4	14.730	0.030233	90.48%
KERN-eqQ3_M	13.044	0.046237	85.71%
KERN-eqQ3_S	11.591	0.080428	71.43%
KERN-eqIQ2_M	9.580	0.164745	80.95%

Scores are relative to BF16’s 28Q result (BF16 = 100%), using the lower primary result where multiple runs exist. The repeat run is excluded. This is a screening metric, not a general capability rating.

KERN-eqQ3_S offers a sub-0.1 mean KLD option at 11.59 GB. KERN-eqIQ2_M is the smallest option at 9.58 GB, with measured mean KLD 0.164745.

Stock comparisons

Control	GB	Mean KLD ↓	28Q (% of BF16)
BF16	54.658	0 (reference)	100.00%
Stock Q4_K_M	16.730	0.016437	85.71%
Stock Q3_K_S	12.257	0.088238	80.95%
Stock IQ2_M	10.187	≈0.1551	85.71%

Usage

Use a llama.cpp build with Qwen MTP support:

./llama-server -m Qwen3.8-27B-KERN-eqQ3_S-MTP.gguf -ngl 99 -c 32768 -fa on -ctk q8_0 -ctv q8_0 --jinja --spec-type draft-mtp --spec-draft-n-max 3

File size excludes KV cache and runtime overhead.

Verify downloads with sha256sum -c SHA256SUMS. File identities are in release-manifest.json, with tensor maps in recipes.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов: 5ca5115