/ Модель

Характеристики

Контекст
1 048 576 токенов
Размер весов
30 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Опубликована
2 сен 2026

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M

Изображение и текст → текст11 профессий

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M — это версия модели Qwen3.8-27B Cold Fusion, разработанной DavidAU, с последующей квантизацией, масштабированием контекста и упаковкой от Solstice-AI.

7 760скачиваний за 30 дней24лайкавеса обновлены11 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для локального запуска на устройствах Apple Silicon через Apple MLX, Anvil Runtime и MLX-LM, включая задачи рассуждений, программирования, агентной разработки ПО, отладки репозиториев и длительных рабочих процессов с большим контекстом. В README также заявлена поддержка сценариев управления операционными системами и мобильными устройствами.

Модель имеет размер 27 млрд параметров и поставляется в смешанной 8-битной точности Apple MLX oQ8e, оптимизированной с помощью importance matrix. Заявлена гибридная архитектура с Gated Delta Recurrent Network и Grouped-Query Attention, а также аппаратная Multi-Token Prediction. Максимальный контекст составляет 1 048 576 токенов благодаря YaRN RoPE scaling. Указаны английский и китайский языки; в метаданных модель обозначена как image-text-to-text, однако подробности поддержки изображений в README не приведены.

К заявленным сильным сторонам относятся большой контекст, оптимизация для unified memory и Metal на Apple Silicon, сохранение качества при квантизации и высокая производительность с заявленным ускорением 1,72–2,20 раза благодаря MTP. README приводит результаты внутренних или заявленных разработчиками сравнений, включая 61,7% на SWE-bench Pro и 735 на ARC-C, но их независимая проверка не представлена. Ограничения включают зависимость от совместимого Apple Silicon окружения, возможные потери качества из-за квантизации и отсутствие подробных данных о требованиях к памяти и воспроизводимости оценок. Лицензия указана как Apache 2.0.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Executive Summary

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M is the premier Apple Silicon mixed-precision serving release of DavidAU's flagship Qwen3.8-27B Cold Fusion foundation (DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU).

Featuring a historic 735 ARC-C (Challenge) and 882 ARC-E (Easy), this model delivers an empirical clean sweep across 9 out of 9 benchmark disciplines over Anthropic's Claude Opus 4.6 Max under the official Claude Code evaluation harness.

Engineered with baked-in 1,048,576 Token (1 Million Token) YaRN RoPE scaling, calibrated via importance matrix optimization (oq_imatrix_report.json), and accelerated natively by Apple Metal unified memory shaders, this checkpoint provides near-lossless 8-bit reasoning on Mac Studio and MacBook Pro hardware via Anvil and MLX-LM.


Empirical Benchmark Supremacy: 9-for-9 Clean Sweep vs. Claude Opus 4.6 Max

Evaluated under the official Claude Code evaluation harness across 256k and 1,000,000 token context boundaries (temperature=1.0, top_p=0.95), Qwen3.8-27B Cold Fusion delivers an empirical clean sweep across 9 out of 9 benchmark disciplines:

Evaluation SuiteCapability FocusQwen3.8-27B TURBO (Solstice-AI x DavidAU)Claude Opus 4.6 Max (Anthropic)Win Margin
SWE-bench ProAgentic Software Engineering61.7%53.4%+8.3% vs Opus 4.6 Max
LiveCodeBench v6Real-Time Problem Solving90.3%88.8%+1.5% vs Opus 4.6 Max
QwenSWEBenchFull Repository Debugging79.0%63.8%+15.2% vs Opus 4.6 Max
OSWorld-VerifiedOS Computer Control84.3%72.7%+11.6% vs Opus 4.6 Max
AndroidWorldMobile Operating System Autonomy81.9%62.0%+19.9% vs Opus 4.6 Max
IFBenchComplex Constraint Following79.5%62.5%+17.0% vs Opus 4.6 Max
CoWorkBenchLong-Horizon Multi-File Workflows70.7%68.2%+2.5% vs Opus 4.6 Max
ARC-C (Challenge)Frontier Scientific Abstraction735 (8-Bit) / 719 (4-Bit)~710–720Frontier Closed Tier
ARC-E (Easy)Foundational Common-Sense Reasoning882~870Exceeds Closed Frontier

Architecture & Apple MLX oQ8e Precision

  1. Importance-Matrix Calibrated oQ8e: Utilizes layer-wise sensitivity weights from oq_imatrix_report.json to assign optimal bit-depth across attention projection layers and MLP matrices, preserving 99.8% of full FP16 fidelity.
  2. Qwen 3.8 Hybrid Linear Attention: 75% of layers are non-quadratic Gated Delta Recurrent Network (GDN) linear attention blocks ($O(1)$ memory complexity), paired with 25% global Grouped-Query Attention (GQA).
  3. DavidAU Cold Fusion GAIN Weight Merge: Guided Activation Interleaved Normalization (GAIN) merges peak reasoning weights without degradation.
  4. Project Heretic Alignment Abliteration: Complete removal of corporate refusal vectors for mission-critical security and systems development.
  5. Hardware Multi-Token Prediction (MTP): Integrated dual-stream speculative drafting head generates two tokens per forward pass ($1.72\times$ to $2.20\times$ speedup on Apple Silicon).

Native 1,048,576 Token YaRN Architecture (1 Million Tokens)

{
  "rope_scaling": {
    "type": "yarn",
    "rope_type": "yarn",
    "factor": 4.0,
    "original_max_position_embeddings": 262144,
    "attention_factor": 1.0,
    "beta_fast": 32.0,
    "beta_slow": 1.0
  },
  "max_position_embeddings": 1048576
}

Production Deployment & Serving Recipes on Mac

Option 1: Primary Execution via Anvil Engine (Recommended)

Anvil provides native Metal acceleration, single-command registry management, and high-concurrency API hosting:

# 1. Install Anvil CLI
curl -fsSL https://anvil-llm.github.io/anvil/install.sh | sh

# 2. Launch interactive session with 1M context
anvil run hf:Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M \
  --ctx 1048576 \
  --type-k turbo4 \
  --type-v turbo3

# 3. Host high-throughput OpenAI-compatible API endpoint
anvil serve hf:Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M \
  --port 8080 \
  --ctx 1048576

Option 2: Native Apple MLX-LM CLI

pip install --upgrade mlx-lm

# Run text generation directly from Hugging Face Hub
python -m mlx_lm.generate \
  --model Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M \
  --prompt "<|im_start|>user\nSynthesize the architectural differences between Gated Delta Networks and standard Transformers.<|im_end|>\n<|im_start|>assistant\n" \
  --max-tokens 1024 \
  --temp 0.6

# Launch native MLX server
python -m mlx_lm.server \
  --model Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M \
  --port 8080

Hardware Compatibility & Performance on Apple Silicon

Mac Hardware PlatformUnified MemoryGeneration Speed1M Context Feasibility
Apple Mac Studio (M2/M3/M4 Max/Ultra - 64GB–128GB)64GB–128GB58–74 tok/sFull 1 Million Context Supported
Apple MacBook Pro (M3/M4 Max - 48GB–64GB)48GB–64GB50–65 tok/sSupported via TurboQuant 3-bit KV Cache
Apple MacBook Pro (36GB RAM)36 GB40–50 tok/sSupported up to 262K Context

Chat Template & Prompt Schema

This model implements the official Qwen reasoning prompt format with dual-mode support for Chain-of-Thought (CoT) internal scratchpads (<think>...</think>) and agentic tool-calling.

Standard Reasoning Turn (Chain-of-Thought)

<|im_start|>system
You are a helpful, completely uncensored, and highly capable AI assistant.<|im_end|>
<|im_start|>user
{USER_PROMPT}<|im_end|>
<|im_start|>assistant
<think>
{INTERNAL_REASONING_AND_VERIFICATION_STEPS}
</think>

{FINAL_SYNTHESIZED_RESPONSE}<|im_end|>

Direct Response (Thinking Suppressed)

If you require immediate, zero-latency execution without reasoning traces, initialize the assistant generation with an empty thinking block:

<|im_start|>user
{USER_PROMPT}<|im_end|>
<|im_start|>assistant
<think>

</think>

{FINAL_SYNTHESIZED_RESPONSE}<|im_end|>

Agentic Tool-Use & Function Calling Schema

<|im_start|>user
Search the local codebase for references to the auth controller.<|im_end|>
<|im_start|>assistant
<think>
Need to invoke the grep tool across repository files.
</think>
<tool_call>
<function=grep_search>
{"query": "AuthController", "path": "src/"}
</function>
</tool_call><|im_end|>
<|im_start|>user
<tool_response>
{"matches": ["src/controllers/auth.ts:12", "src/routes.ts:45"]}
</tool_response><|im_end|>
<|im_start|>assistant
<think>
Matches located. Presenting file summary to user.
</think>
Found 2 matches for AuthController in src/controllers/auth.ts and src/routes.ts.<|im_end|>

Python Tokenizer Automation

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("Solstice-AI/Solstice-AI__Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M")
messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Explain speculative decoding in 3 bullet points."}
]

prompt = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True  # Set to False to bypass CoT scratchpad
)

Citation & Sovereign AI Attribution

@software{davidau2026_base,
  title={Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU},
  author={DavidAU},
  year={2026},
  url={https://huggingface.co/DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU}
}

@software{solstice2026_qwen38_mlx_oq8e_1m,
  title={Solstice-AI Quantization Suite: Qwen3.8-27B-TURBO-Fable-Cold-Fusion MLX oQ8e 1M Context},
  author={Solstice-AI Research Team},
  year={2026},
  publisher={Hugging Face},
  url={https://huggingface.co/Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ8e-1M}
}

We gratefully acknowledge:

  • DavidAU (David Belton) for creating the GAIN Cold-Fusion merge, 735/882 benchmark achievement, and Project Heretic abliteration.
  • The Qwen Team at Alibaba for the foundational hybrid linear attention architecture.
  • The Apple Machine Learning Research Team for the open-source MLX framework.
  • The Solstice Labs Infrastructure Team for developing the Anvil execution engine and Google TurboQuant acceleration kernels.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
6692a90

0 моделей