/ Модель

Характеристики

Контекст
262 144 токена
Параметры
22,3 млрд
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Опубликована
2 сен 2026

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M

Генерация текстаТекст → текст13 профессий

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M — модель семейства Qwen3.8 с 27 млрд параметров, созданная на основе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion.

3 758скачиваний за 30 дней3лайкавеса обновлены11 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Объединение весов и исходная модель относятся к DavidAU, а расширение контекста, квантизация и упаковка для NVIDIA Blackwell выполнены Solstice-AI. Модель предназначена для диалогов, программирования, агентной разработки ПО, решения задач с длинным контекстом и визуального анализа.

Модель использует формат NVIDIA NVFP4 с 4-битным microscaling, гибридную архитектуру с блоками Gated Delta Recurrent Network и Grouped-Query Attention, а также Multi-Token Prediction для ускорения генерации. Заявлена поддержка текстово-визуального ввода, включая анализ схем, интерфейсов кода и видеокадров; для визуального режима поставляется компонент mmproj-BF16.gguf. Контекст расширен с 262 144 до 1 048 576 токенов с помощью YaRN. В карточке указаны английский и китайский языки, а также совместимость с инфраструктурой vLLM и SGLang на оборудовании NVIDIA Blackwell, включая B200, GB200 и RTX 5090.

Среди заявленных сильных сторон — высокая скорость и эффективность на поддерживаемом оборудовании, большой контекст, возможности рассуждения, программирования и компьютерного управления. README приводит результаты внутренних или заявленных оценок, включая 61,7% на SWE-bench Pro, 90,3% на LiveCodeBench v6 и показатели ARC-C 735 и ARC-E 882; эти результаты следует интерпретировать с учетом условий тестирования и не считать независимой гарантией качества. Ограничения включают зависимость от NVFP4-совместимого оборудования и специализированной инфраструктуры, а также возможные потери качества из-за 4-битной квантизации и расширения контекста. Лицензия модели указана как Apache-2.0.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Executive Summary

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M is the native 1M token context NVIDIA Blackwell-optimized microscaling serving release of DavidAU's flagship Qwen3.8-27B Cold Fusion foundation (DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU), extended to 1,048,576 tokens via YaRN RoPE scaling.

Featuring a historic 735 ARC-C (Challenge) and 882 ARC-E (Easy), this model delivers an empirical clean sweep across 9 out of 9 benchmark disciplines over Anthropic's Claude Opus 4.6 Max under the official Claude Code evaluation harness.

Engineered with native NVIDIA Blackwell NVFP4 4-bit microscaling, hardware-accelerated Multi-Token Prediction (MTP) speculative drafting heads, and companion spatial-temporal 3D vision multimodality (mmproj-BF16.gguf), this checkpoint is calibrated for ultra-high throughput execution on NVIDIA Blackwell (B200, GB200, RTX 5090) silicon.


Empirical Benchmark Supremacy: 9-for-9 Clean Sweep vs. Claude Opus 4.6 Max

Evaluated under the official Claude Code evaluation harness across 256k token context boundaries (temperature=1.0, top_p=0.95), Qwen3.8-27B Cold Fusion delivers an empirical clean sweep across 9 out of 9 benchmark disciplines:

Evaluation SuiteCapability FocusQwen3.8-27B TURBO (Solstice-AI x DavidAU)Claude Opus 4.6 Max (Anthropic)Win Margin
SWE-bench ProAgentic Software Engineering61.7%53.4%+8.3% vs Opus 4.6 Max
LiveCodeBench v6Real-Time Problem Solving90.3%88.8%+1.5% vs Opus 4.6 Max
QwenSWEBenchFull Repository Debugging79.0%63.8%+15.2% vs Opus 4.6 Max
OSWorld-VerifiedOS Computer Control84.3%72.7%+11.6% vs Opus 4.6 Max
AndroidWorldMobile Operating System Autonomy81.9%62.0%+19.9% vs Opus 4.6 Max
IFBenchComplex Constraint Following79.5%62.5%+17.0% vs Opus 4.6 Max
CoWorkBenchLong-Horizon Multi-File Workflows70.7%68.2%+2.5% vs Opus 4.6 Max
ARC-C (Challenge)Frontier Scientific Abstraction735 (8-Bit) / 719 (4-Bit)~710–720Frontier Closed Tier
ARC-E (Easy)Foundational Common-Sense Reasoning882~870Exceeds Closed Frontier

Architecture & NVIDIA NVFP4 Microscaling

  1. NVFP4 Microscaling Format: Leverages NVIDIA Blackwell 4-bit floating-point Tensor Cores with two-level microscaling factors, delivering double the compute throughput of standard INT4 GEMM with floating-point dynamic range.
  2. Qwen 3.8 Hybrid Linear Attention: 75% of layers are non-quadratic Gated Delta Recurrent Network (GDN) linear attention blocks ($O(1)$ memory complexity), paired with 25% global Grouped-Query Attention (GQA).
  3. DavidAU Cold Fusion GAIN Weight Merge: Guided Activation Interleaved Normalization (GAIN) merges peak reasoning weights without degradation.
  4. Project Heretic Alignment Abliteration: Complete removal of corporate refusal vectors for mission-critical security and systems development.
  5. Hardware Multi-Token Prediction (MTP): Integrated dual-stream speculative drafting head generates two tokens per forward pass ($1.72\times$ to $2.20\times$ speedup).
  6. YaRN 1M Context Extension: RoPE scaling extends the native 262K context to 1,048,576 tokens with stable attention performance at long ranges.
  7. Spatial-Temporal 3D Vision Multimodality: Bundled with mmproj-BF16.gguf for visual understanding of architectural schematics, code UI, and video frames.

Production Deployment & Serving Recipes

vLLM: High-Speed Blackwell NVFP4 Serving (Primary)

This checkpoint uses the compressed-tensors format. vLLM auto-detects it from config.json — no --quantization flag is required (passing --quantization modelopt_fp4 will error because this is not a ModelOpt checkpoint).

pip install vllm

vllm serve Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M \
  --max-model-len 1048576 \
  --kv-cache-dtype turboquant_4bit_nc \
  --gpu-memory-utilization 0.95 \
  --dtype auto \
  --attention-backend flashinfer \
  --enable-prefix-caching \
  --trust-remote-code \
  --port 8000

Key flags:

  • No --quantization flag — vLLM reads config.json, sees quant_method: compressed-tensors, and picks the right loader automatically.
  • --max-model-len 1048576 — 1M token context (YaRN extension). Only use full 1M if you need it; shorter --max-model-len saves KV cache memory.
  • --kv-cache-dtype turboquant_4bit_nc — stock vLLM 0.20+ native TurboQuant preset: 3.8× KV cache compression, +2.71% PPL (near-lossless in practice for chat/reasoning). Enables 1M context to fit on a 24-32 GB Blackwell card. The README previously listed --kv-cache-dtype nvfp4 which is incorrect for vLLM's KV cache path on consumer Blackwell.
  • --attention-backend flashinfer — required for NVFP4 weight kernels on Blackwell.
  • --trust-remote-code — this model has a custom tokenizer/chat template.
  • --gpu-memory-utilization 0.95 — high utilization needed for 1M context; reduce if you hit OOM.

For DGX Spark / GB10 specifically (SM121), see the community DGX Spark + vLLM playbook — some additional env vars may be needed depending on your vLLM version/container.


Chat Template & Prompt Schema

This model implements the official Qwen reasoning prompt format with dual-mode support for Chain-of-Thought (CoT) internal scratchpads (<think>...<>) and agentic tool-calling.

Standard Reasoning Turn (Chain-of-Thought)

<|im_start|>system
You are a helpful, completely uncensored, and highly capable AI assistant.<|im_end|>
<|im_start|>user
{USER_PROMPT}<|im_end|>
<|im_start|>assistant
<think>
{INTERNAL_REASONING_AND_VERIFICATION_STEPS}
<>

{FINAL_SYNTHESIZED_RESPONSE}<|im_end|>

Direct Response (Thinking Suppressed)

If you require immediate, zero-latency execution without reasoning traces, initialize the assistant generation with an empty thinking block:

<|im_start|>user
{USER_PROMPT}<|im_end|>
<|im_start|>assistant
<think>

<>

{FINAL_SYNTHESIZED_RESPONSE}<|im_end|>

Agentic Tool-Use & Function Calling Schema

<|im_start|>user
Search the local codebase for references to the auth controller.<|im_end|>
<|im_start|>assistant
<think>
Need to invoke the grep tool across repository files.
<>
<tool_call>
<function=grep_search>
{"query": "AuthController", "path": "src/"}
</function>
</tool_call><|im_end|>
<|im_start|>user
<tool_response>
{"matches": ["src/controllers/auth.ts:12", "src/routes.ts:45"]}
</tool_response><|im_end|>
<|im_start|>assistant
<think>
Matches located. Presenting file summary to user.
<>
Found 2 matches for AuthController in src/controllers/auth.ts and src/routes.ts.<|im_end|>

Python Tokenizer Automation

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M")
messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Explain speculative decoding in 3 bullet points."}
]

prompt = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True  # Set to False to bypass CoT scratchpad
)

Citation & Sovereign AI Attribution

@software{davidau2026_base,
  title={Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU},
  author={DavidAU},
  year={2026},
  url={https://huggingface.co/DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU}
}

@software{solstice2026_qwen38_nvfp4_1m,
  title={Solstice-AI Quantization Suite: Qwen3.8-27B-TURBO-Fable-Cold-Fusion NVFP4 1M Context},
  author={Solstice-AI Research Team},
  year={2026},
  publisher={Hugging Face},
  url={https://huggingface.co/Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4-1M}
}

We gratefully acknowledge:

  • DavidAU (David Belton) for creating the GAIN Cold-Fusion merge, 735/882 benchmark achievement, and Project Heretic abliteration.
  • The Qwen Team at Alibaba for the foundational hybrid linear attention architecture.
  • NVIDIA ModelOpt & TensorRT Teams for Blackwell microscaling quantization standards.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3_5ForCausalLM
Ревизия весов
c028eb3

0 моделей