/ Модель

Характеристики

Лицензия
Apache 2.0
Опубликована
8 сен 2026

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-GGUF

Изображение и текст → текст14 профессий

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-GGUF — это набор моделей в формате GGUF на базе Qwen3.8-27B, первоначально разработанной Qwen / Alibaba Cloud.

3 993скачиваний за 30 дней0лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Некорректированные и оптимизированные для программирования веса предоставлены DavidAU, а сборка и упаковка выполнены Solstice-AI. Модель ориентирована на генерацию и анализ кода, агентные сценарии, сложное алгоритмическое проектирование, математические рассуждения и задачи, связанные с SWE-bench. Также заявлена поддержка обработки изображений через отдельный мультимодальный vision-проектор mmproj-BF16.gguf.

Основная модель имеет размер 27B параметров и поставляется в вариантах квантования от Q4_K_M до Q8_0; рекомендуемый Q4_K_M занимает около 16,81 ГБ. Заявлены контекст до 131 072 токенов, языки English и Chinese, управление интенсивностью рассуждений через reasoning_effort, детерминированный XML-вызов инструментов и поддержка Multi-Token Prediction для speculative decoding. Для ускорения вывода доступны MTP-модели и DSpark drafter; README заявляет ускорение speculative decoding до 1,8 раза.

Сильные стороны модели — специализация на программировании, поддержка многофайлового рефакторинга, инструментального взаимодействия, мультимодального ввода и нескольких уровней точности. Ограничения включают значительные требования к памяти, зависящие от выбранного квантования, а также необходимость совместимого программного обеспечения и отдельных компонентов для vision и speculative decoding. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит14

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Summary

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-GGUF contains the official clean GGUF suite of Qwen3.8-27B NEO-CODER, bringing DavidAU's latest coding and agentic prompt engineering optimizations into standard, clean UD 3.0 GGUF binaries.

Key NEO-CODER Capabilities:

  1. Dynamic Reasoning Effort Controls (reasoning_effort):
    • medium: Suppresses default system prompt injection for direct, unrestricted coding execution and SWE-bench compatibility.
    • xhigh: Injects deep-reasoning verification tags (<thought>) for complex algorithmic design and proofs.
  2. Deterministic XML Tool Calling: Pre-configured for <tool_call><function=...><parameter=...></function></tool_call> execution.
  3. Pure BF16 Vision Transformer (mmproj-BF16.gguf): Standalone 16-bit multimodal vision projector with zero FP16 underflow risks.
  4. Multi-Token Prediction (MTP) Speculative Tiers: Bundles specialized MTP models (speculative-mtp/) and DSpark drafters (speculative/).

File Catalog

FilenamePrecision / QuantSizeRecommended Use Case
Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-Q4_K_M.ggufQ4_K_M (UD-Q4_K_XL)16.81 GBRecommended: Best balance of speed, RAM footprint & accuracy
Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-Q5_K_M.ggufQ5_K_M19.31 GBHigh-accuracy coding and mathematical reasoning
Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-Q6_K.ggufQ6_K21.96 GBNear-lossless weights for complex multi-file refactoring
Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-Q8_0.ggufQ8_027.74 GBPure lossless 8-bit precision
speculative-mtp/*-MTP-Q4_K_M.ggufMTP Q4_K_M17.23 GBMulti-Token Prediction enabled speculative decoding
speculative-mtp/*-MTP-Q8_0.ggufMTP Q8_028.16 GBLossless MTP speculative decoding
mmproj-BF16.ggufPure BF160.87 GBOfficial standalone Multimodal Vision Projector
speculative/Qwen3.8-27B-DSpark-Q4_K_M.ggufDSpark Drafter1.03 GBUltra-fast pre-aligned speculative draft model

Quickstart with llama.cpp

Standard Multimodal Inference:

llama-server \
  -m Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-Q4_K_M.gguf \
  --mmproj mmproj-BF16.gguf \
  -c 131072 \
  --port 8080

Speculative Decoding (1.8x Speedup):

llama-cli \
  -m Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-Q4_K_M.gguf \
  -md speculative/Qwen3.8-27B-DSpark-Q4_K_M.gguf \
  --mmproj mmproj-BF16.gguf \
  -p "Write a high-performance async actor pool in Rust using Tokio."

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
34ee3f5

0 моделей