/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
Swift-Qwen3.8-27B-Uncensored-BF16
Библиотека
gguf
Опубликована
18 сен 2026

ATX-Swift-Qwen3.8-27B-Uncensored-TQ2_0-MTP-GGUF

Генерация текстаТекст → текст7 профессий

Квантованная сборка GGUF модели Swift-Qwen3.8-27B для генерации текста и диалогов с поддержкой спекулятивного декодирования MTP.

290скачиваний за 30 дней0лайковвеса обновлены18 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ATX-Swift-Qwen3.8-27B-Uncensored-TQ2_0-MTP-GGUF — GGUF-квантование модели d0xin/Swift-Qwen3.8-27B-Uncensored-BF16, опубликованное jakeatx. Используется формат TQ2_0 с троичным квантованием TurboQuant примерно до 2,06 бит на параметр и сохранением точности критических тензоров; размер файла — около 7,61 ГиБ. В модель встроена голова Multi-Token Prediction для спекулятивного декодирования без отдельной черновой модели.

Модель предназначена для генерации текста и диалогов, запускаемых через llama.cpp или llamAmpere. В карточке указана конфигурация контекста на 32 768 токенов для примера запуска. Базовая модель семейства Qwen описана каталогом как мультимодальная, однако README этой сборки подтверждает только использование для генерации текста и не уточняет поддержку изображений в данном GGUF-файле.

Квантование уменьшает размер модели и поддерживает ускоренное декодирование с MTP, но README не приводит сравнительных оценок качества или скорости. Лицензия указана как other; конкретные условия следует проверять в репозитории модели и у базовой модели.

Сценарии применения

  • локальный запуск чат-модели через llama.cpp
  • генерация ответов и продолжений текста
  • диалоговое взаимодействие с моделью
  • ускорение вывода с помощью спекулятивного декодирования MTP

Ограничения

Качество и скорость этой степени квантования не подтверждены сравнительными оценками в README. Лицензия обозначена как other, поэтому условия использования нужно уточнить в репозитории.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ATX-Swift-Qwen3.8-27B-Uncensored-TQ2_0-MTP-GGUF

Ternary 2-bit quantization (TQ2_0) with native Multi-Token Prediction (MTP) draft head for d0xin/Swift-Qwen3.8-27B-Uncensored-BF16.

Overview

  • Quant Format: TQ2_0 (TurboQuant 2.06 bpw ternary, ~2.39 BPW container with critical tensors preserved). TurboQuant applies randomized Walsh-Hadamard transform (WHT) rotations dynamically during quantization to suppress outlier channels and retain coherence on dense weights without retraining.
  • MTP Speculative Decoding: Native layer 64 (blk.64.*) fused directly into the model (qwen35.block_count: 65). Ready for self-speculative decoding in llama.cpp and llamAmpere without needing an external drafter model.
  • Size: 8,167,151,488 bytes (7.61 GiB)
  • SHA256: d8165afb60195352f417681fa6348acbfb743c9e6bdc7ba87b9bf1a1e37ea086

Usage with llama.cpp / llamAmpere

llama-server -m ATX-Swift-Qwen3.8-27B-Uncensored-TQ2_0-MTP.gguf   -ngl 99 -fa on -c 32768   --spec-type draft-mtp --spec-draft-n-max 3 --spec-draft-p-min 0.45

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Ревизия весов
acd3aa0

0 моделей