/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
2,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Базовая модель
Qwen3.8-27B
Библиотека
transformers
Опубликована
27 авг 2026

Qwen3.8-27B-Texelator-AWBC4-BF16Cal

Генерация текстаТекст → текст4 профессии

Квантованный артефакт Qwen3.8-27B для диалоговой генерации текста через Texelator на поддерживаемых видеокартах NVIDIA RTX 50-й серии.

97скачиваний за 30 дней0лайковвеса обновлены27 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3.8-27B Texelator AW-BC4 — производный артефакт на основе Qwen/Qwen3.8-27B, подготовленный методом аппаратно-ориентированной посттренировочной квантизации BC4 с калибровкой BF16. Это плотная модель семейства Qwen для диалоговой генерации текста; базовая модель также поддерживает мультимодальные задачи, однако README описывает только упаковку весов и запуск генерации.

Сценарии применения

  • ведение диалогов с языковой моделью
  • генерация текста на совместимой видеокарте RTX 50-й серии
  • запуск Qwen3.8-27B в runtime Texelator

Ограничения

Артефакт предназначен для Texelator v0.3 на NVIDIA RTX 50-й серии с compute capability 12.0 и совместимой аппаратной палитрой BC4; на несовместимом оборудовании он не загрузится. Режим FP4 для предварительной обработки указан как экспериментальный и не сохраняет качество BF16.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8-27B Texelator AW-BC4 (BF16 calibrated, SM120)

This is the standalone Texelator artifact for Qwen3.8-27B, encoded from the original BF16 checkpoint with activation-aware, hardware-exact BC4 PTQ. It is intended for the Texelator v0.3 runtime on NVIDIA RTX 50-series GPUs with compute capability 12.0 and a matching measured BC4 palette hash.

Runtime: https://github.com/hp0303/Texelator

Use

texelator pull qwen3.8:27b
texelator benchmark qwen3.8:27b
texelator run qwen3.8:27b

The one-time benchmark is mandatory. It selects correctness-checked decode lookahead and BF16 prefill tiles for the actual GPU.

Numerical and hardware scope

  • Source and calibration dtype: BF16
  • Runtime activation/output dtype: BF16
  • Accumulation: FP32
  • Weight payload: 8-byte BC4 per 16 weights plus one FP32 scale per output row
  • Calibration: WikiText-2 train, 8,192 tokens
  • Validated target: NVIDIA RTX 5080, compute capability 12.0
  • Palette SHA256: 34670bd1c521c26b14ea88ed6f2d8f16c55720f20915909ac621dcabe0f3ed47

Texelator verifies the local GPU's hardware reconstruction palette before loading this artifact. It will fail rather than run on a mismatched palette or architecture.

Prefill modes

BF16 CUTLASS Texture IteratorB prefill is the production default. Texelator v0.3 also includes an opt-in --prefill-mode fp4 research path. FP4 is faster in the reported 512-token experiment but is not quality-equivalent to BF16 and should not be used when output fidelity is required.

License

The upstream Qwen model license and acceptable-use terms continue to apply. The Texelator runtime is MIT licensed.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
61fa076

0 моделей