/ Модель

Характеристики

Контекст
262 144 токена
Лицензия
Apache 2.0
Опубликована
11 сен 2026

Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-UltraOptimised-VariableThinking-1M

Изображение и текст → текст15 профессий

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-UltraOptimised-VariableThinking-1M — это GGUF-релиз 27-миллиардной модели семейства Qwen3.8, созданный Solstice-AI на основе модели DavidAU Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored.

2 078скачиваний за 30 дней4лайкавеса обновлены12 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DavidAU разработал исходную модель и слияние GAIN, а Solstice-AI выполнила квантование, интеграцию Multi-Token Prediction и настройку когнитивной архитектуры. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp, Ollama и совместимые приложения.

Модель ориентирована на диалог, рассуждения, программирование и задачи, требующие управляемой глубины анализа. Заявлена поддержка мультимодального ввода изображений и видеокадров через отдельный проектор mmproj-BF16.gguf, а также английского и китайского языков. Доступны десять уровней режима рассуждений — от прямого ответа без мыслительных токенов до глубокого анализа; режим можно выбирать через специальные параметры шаблона чата или теги сообщений. Заявлен контекст размером до 1M токенов, однако README не приводит подробностей о фактических требованиях к памяти и совместимости всех реализаций.

Главные особенности — Native Hardware Multi-Token Prediction для ускорения генерации, сохранение lm_head в 16-битной точности в MAX-MTP-сборках и несколько вариантов квантования. Q4_K_M рассчитан примерно на 16 ГБ VRAM, Q5_K_M — на 24 ГБ, Q6_K — на 24–32 ГБ, а Q8_0 — на 32 ГБ и более. Более низкая разрядность уменьшает требования к памяти, но может снижать точность; мультимодальная обработка требует дополнительного проектора и ресурсов. Модель позиционируется как uncensored/abliterated, поэтому может не применять стандартные ограничения безопасности. Лицензия — Apache 2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Executive Summary

Solstice-AI/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-UltraOptimised-MTP-1M is the curated, zero-bloat GGUF release of DavidAU's flagship Qwen3.8-27B Twin Turbo Cold Fusion foundation (DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored).

This curated release eliminates non-MAX duplicates, degraded extreme low-bits, and external drafters in favor of pure, Pareto-optimal checkpoints with Native Hardware Multi-Token Prediction (MTP) and Solstice-AI's 10-Level Cognitive Reasoning Architecture.


Curated "GOATed" Checkpoints

Every checkpoint in this suite is a MAX-MTP tier: retaining the critical output tensor (output.weight / lm_head) in unquantized 16-bit precision alongside Q8_0 MTP heads to preserve reasoning accuracy (Arc-C 701+ at 4-bit):

Checkpoint FileSizeVRAM BudgetOptimal Target
...-MAX-MTP-Q4_K_M.gguf17.23 GB16 GB VRAMThe GOAT 4-bit (16-bit lm_head, Arc-C 701, ideal for RTX 4080 / 16GB GPUs)
...-MAX-MTP-Q5_K_M.gguf19.73 GB24 GB VRAMThe GOAT 5-bit (sweet spot of generation speed & reasoning depth)
...-MAX-MTP-Q6_K.gguf22.38 GB24–32 GB VRAMHigh-fidelity near-lossless sweet spot for RTX 3090/4090 & Apple Silicon
...-MAX-MTP-Q8_0.gguf28.16 GB32 GB+ VRAMFull reference precision
mmproj-BF16.gguf0.87 GBSystem RAM/VRAMSpatial-temporal multimodal vision projector (images & video frames)

10-Level Cognitive Reasoning Architecture

Built directly into tokenizer_config.json and chat_template.jinja, this suite introduces a 10-level cognitive spectrum. Levels feature soft-elastic pacing (thoughts scale organically to problem difficulty without artificial token caps).

Triggering Modes In-Chat & Via API

  • In-Chat Message Tags (works across Ollama, LM Studio, OpenWebUI, LibreChat):
    • Thinking Mode: Add {REASON:<alias>} anywhere in your message (e.g., {REASON:amax}, {REASON:uhigh}, {REASON:athena}). The tag is stripped from the prompt and persists across subsequent chat turns.
    • Instant Instruct Mode (Zero Reasoning Tokens): Prefix with i (e.g., {REASON:iamax}, {REASON:iuhigh}, {REASON:iathena}) to close <think></think> immediately and generate a direct answer framed through that persona.
  • API Parameters:
    # Thinking Mode
    response = client.chat.completions.create(
        model="...",
        messages=[{"role": "user", "content": "Analyze system architecture"}],
        extra_body={"chat_template_kwargs": {"reasoning_effort": "amax"}}
    )
    
    # Instant Instruct (0 Thinking Tokens)
    response = client.chat.completions.create(
        model="...",
        messages=[{"role": "user", "content": "Fast code generation"}],
        extra_body={"chat_template_kwargs": {"enable_thinking": False, "reasoning_effort": "uhigh"}}
    )
    

The Cognitive Spectrum

LevelPrimary KeyTechnical AliasesMythological AliasCognitive Framework & Behavior
0disablednone, off, directMortal0 tokens: <think></think> closed immediately for instant direct output.
1ulowultra-low, microHermesRapid instinct & sanity check. Direct path from premise to verdict (<150 tokens).
2lowcompact, fastApolloCrisp logic and premise validation with zero cognitive overhead.
3lmedlow-medium, targetedArtemisBoundary hunter: tests zero conditions, nulls, and hidden edge cases.
4mediummed, balancedAthenaStrategic balance: evaluates architectural trade-offs and structural cohesion.
5mhighmedium-high, architectPrometheusProactive forethought: models 10x/100x scale, failure modes, and fault tolerance.
6highdeep, thoroughSolsticeDeep systemic derivation: multi-branch hypothesis trace and red-team falsification.
7xhighextreme-high (Default)HyperionNative Qwen 3.8 continuous derivation and exhaustive semantic deconstruction.
8uhighultra-high, swarmEinstein20-Agent Swarm: Deploys 20 virtual perspective agents across Sternberg styles.
9amaxabsolute-max, deep-researchOracleDeep Research Council: 1–5 complexity scaling, multi-expert panel & audit matrix.

Quickstart

Native MTP Speculative Decoding via llama.cpp

Checkpoints with -MTP- feature native dual-stream token prediction built into the weights (no external drafter file needed):

# High-speed interactive chat with native MTP
llama-cli \
  --hf-repo Solstice-AI/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-UltraOptimised-MTP-1M \
  --hf-file Qwen3.8-27B-TTURBO-Fable-C-Fusion-709-L-Uncen-NM-DAU-NEO-MAX-MTP-Q4_K_M.gguf \
  --mmproj mmproj-BF16.gguf \
  -c 1048576 \
  -ngl 99 \
  -p "{REASON:amax} Perform a rigorous architectural evaluation of microservices vs monoliths."

Server Deployment

llama-server \
  --hf-repo Solstice-AI/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-UltraOptimised-MTP-1M \
  --hf-file Qwen3.8-27B-TTURBO-Fable-C-Fusion-709-L-Uncen-NM-DAU-NEO-MAX-MTP-Q4_K_M.gguf \
  --mmproj mmproj-BF16.gguf \
  --host 0.0.0.0 --port 8080 -c 1048576 -ngl 99

Citations & Acknowledgments

  • DavidAU for the phenomenal Qwen3.8-27B Twin-Turbo Cold Fusion GAIN merged base foundation.
  • Qwen Team for the foundational Qwen 3.8 architecture.
  • Solstice-AI for downstream curated quantization, MTP packaging, and the 10-level cognitive architecture.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
dc40092

0 моделей