Характеристики

Лицензия: Своя лицензия
Базовая модель: Swift-Qwen3.8-27B-Uncensored-BF16
Библиотека: gguf
Опубликована: 18 сен 2026

Ссылки

ATX-Swift-Qwen3.8-27B-Uncensored-PTQ1_0-MTP-GGUF

Генерация текстаТекст → текст3 профессии

Квантизированная GGUF-сборка Qwen3.8 на 27 млрд параметров для локальной генерации текста и чата с поддержкой спекулятивного декодирования MTP.

229скачиваний за 30 дней0лайковвеса обновлены18 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ATX-Swift-Qwen3.8-27B-Uncensored-PTQ1_0-MTP-GGUF — GGUF-сборка Jakeatx на основе d0xin/Swift-Qwen3.8-27B-Uncensored-BF16. Модель предназначена для диалоговой генерации текста и запуска через llama.cpp или llamAmpere.

Веса сжаты методом ternary-квантизации PTQ1_0: заявлено 1,75 бита на параметр, около 2,10 бит на параметр в контейнере, а размер файла составляет 6,70 ГиБ. В сборку встроена голова Multi-Token Prediction на слое 64 для спекулятивного декодирования без отдельной черновой модели. README указывает контекст 32 768 токенов для примера запуска. Базовая модель описана в каталоге как мультимодальная, однако README этой сборки подтверждает прежде всего генерацию текста и не уточняет, какие мультимодальные входы поддерживаются в данном GGUF-файле.

Модель подходит для локального чат-инференса; сильные стороны сборки — низкий размер файла и встроенная поддержка MTP. Агрессивная квантизация может влиять на качество, а ускорение декодирования зависит от совместимого ПО и оборудования. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Сценарии применения

локальный чат с языковой моделью
генерация текста через llama.cpp
запуск чат-модели на устройстве с ограниченной памятью
ускорение генерации с помощью спекулятивного декодирования MTP

Ограничения

Квантизация до 1,75 бита на параметр может снижать качество; работа MTP зависит от поддержки со стороны среды запуска. Указанная лицензия other не раскрывает конкретных условий использования.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ATX-Swift-Qwen3.8-27B-Uncensored-PTQ1_0-MTP-GGUF

Ternary 1.75-bit quantization (PTQ1_0) with native Multi-Token Prediction (MTP) draft head for d0xin/Swift-Qwen3.8-27B-Uncensored-BF16.

Overview

Quant Format: PTQ1_0 (1.75 bpw ternary, 5 trits packed per byte, ~2.10 BPW container with critical tensors preserved).
MTP Speculative Decoding: Native layer 64 (blk.64.*) fused directly into the model (qwen35.block_count: 65). Ready for self-speculative decoding in llama.cpp and llamAmpere without needing an external drafter model.
Size: 7,199,369,088 bytes (6.70 GiB)
SHA256: c7c47656be2f50a6a37d50e36d0bf5fa47d9d563243e6dc2ae2acaa0363218f9

Usage with llama.cpp / llamAmpere

llama-server -m ATX-Swift-Qwen3.8-27B-Uncensored-PTQ1_0-MTP.gguf   -ngl 99 -fa on -c 32768   --spec-type draft-mtp --spec-draft-n-max 3 --spec-draft-p-min 0.45

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Ревизия весов: cd63cf5