Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.8-27B-SpeedX27-VL-GDN64
Библиотека: gguf
Опубликована: 24 авг 2026

Ссылки

Qwen3.8-27B-SpeedX27-VL-GDN64-GGUF

Генерация текстаТекст → текст12 профессий

summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64-GGUF — квантованная версия модели summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64 в формате GGUF.

173скачиваний за 30 дней2лайкавеса обновлены27 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель основана на архитектуре Qwen3.8 с идентификатором qwen35 и содержит около 27 млрд параметров. В README не указаны имя или организация разработчика, однако репозиторий модели связан с пользователем summerMC.

Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. Указана поддержка модифицированной архитектуры Qwen с компонентами GDN и recurrent; для работы рекомендуется свежая версия llama.cpp. Максимальная длина контекста составляет 262 144 токена, но фактически доступный размер зависит от объёма RAM и VRAM. О модальностях и поддерживаемых языках дополнительных сведений нет.

Предоставлена квантизация Q4_K_M, которая призвана обеспечить практический баланс между качеством, потреблением памяти и скоростью инференса. Формат GGUF удобен для локального развертывания, однако старые сборки llama.cpp могут не распознать архитектуру. К основным ограничениям относятся возможные требования к значительному объёму памяти и потенциальное снижение качества по сравнению с более точными версиями из-за квантизации. Лицензия — Apache-2.0; дополнительные условия использования следует уточнять в репозитории исходной модели.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LLama.cpp unsported

https://github.com/vnlpscale/llama.cpp sported

Qwen3.8-27B-SpeedX27-VL-GDN64-GGUF

GGUF Q4_K_M quantization of summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64.

Model Details

Base Model: summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64
Architecture: Qwen3.8 / qwen35
Parameters: ~27B
Quantization: Q4_K_M
Format: GGUF
Maximum Context Length: 262,144 tokens
License: Apache-2.0

Download

Using the Hugging Face CLI:

huggingface-cli download \
  summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64-GGUF \
  SpeedX27-GDN64-Q4_K_M.gguf \
  --local-dir .

With newer versions of the Hugging Face CLI, you can also use:

hf download \
  summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64-GGUF \
  SpeedX27-GDN64-Q4_K_M.gguf \
  --local-dir .

llama.cpp

Use a recent build of llama.cpp.

CLI

./llama-cli \
  -m SpeedX27-GDN64-Q4_K_M.gguf \
  -c 8192 \
  -ngl 99

Server

./llama-server \
  -m SpeedX27-GDN64-Q4_K_M.gguf \
  -c 8192 \
  -ngl 99

-ngl 99 attempts to offload all model layers to the GPU. Reduce this value if the model does not fit in available VRAM.

Quantization

This repository provides the Q4_K_M quantization.

Q4_K_M provides a practical balance between model quality, memory usage, and inference performance for a model of this size.

The model was quantized from the higher-precision GGUF using llama-quantize:

llama-quantize \
  SpeedX27-GDN64-BF16.gguf \
  SpeedX27-GDN64-Q4_K_M.gguf \
  Q4_K_M

Context Length

The GGUF metadata specifies a maximum context length of 262,144 tokens.

You do not need to allocate the full context length during inference. Context size has a substantial effect on KV-cache memory usage.

For example:

# 8K context
-c 8192

# 32K context
-c 32768

# 64K context
-c 65536

Choose the context size according to available RAM/VRAM and your workload.

Compatibility

This model uses a modified Qwen architecture with GDN/recurrent components.

A recent version of llama.cpp is recommended. Older builds may not recognize the architecture or may lack support required by the model.

If loading fails, update llama.cpp to the latest revision before troubleshooting the GGUF itself.

Source Model

Original model: summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64
GGUF repository: summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64-GGUF

License

Apache-2.0.

See the original model repository for additional model information and any applicable usage notes.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 8d66219