/ Модель

Характеристики

Контекст
1 048 576 токенов
Размер весов
30 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Опубликована
11 сен 2026

Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-mlx-oQ8e-1M

Изображение и текст → текст15 профессий

Solstice-AI Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-mlx-oQ8e-1M — это релиз модели для Apple Silicon в формате MLX, созданный Solstice-AI на базе дообученной модели DavidAU Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored.

1 028скачиваний за 30 дней4лайкавеса обновлены11 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Архитектурная основа принадлежит Qwen/Alibaba, дообучение выполнил DavidAU, а смешанную oQ8e-квантизацию подготовила Solstice-AI. В карточке указаны английский и китайский языки, лицензия Apache 2.0 и контекстное окно до 1 048 576 токенов.

Модель предназначена для запуска на компьютерах Apple с unified memory и ориентирована на рассуждения, программирование, научные и многодисциплинарные задачи. Заявлены переменная глубина рассуждений через 10-уровневую систему управления thinking, нативная аппаратная Multi-Token Prediction и скорость 58–74 токена в секунду на потребительских и профессиональных чипах Apple Silicon. Формат oQ8e использует смешанную точность и повышенную разрядность для чувствительных компонентов, включая проекции внимания, матрицы MLP и нормализационные тензоры.

К сильным сторонам относятся большой контекст, оптимизация под Metal и Apple Silicon, поддержка аппаратного MTP, гибкое управление глубиной рассуждений и ориентация на кодирование и reasoning. Ограничениями являются требование не менее 64 ГБ unified memory для конфигурации oQ8e, зависимость от MLX/mlx-lm и отсутствие в README подробностей о фактической мультимодальности, несмотря на заявленный pipeline image-text-to-text. Модель обозначена как uncensored и abliterated, поэтому её поведение в части отказов от потенциально вредных запросов может отличаться от стандартных версий.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Executive Overview

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-mlx-oQ8e-1M is the official Apple Silicon MLX release of DavidAU's Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored.

Engineered specifically for Apple Silicon Unified Memory architectures (M2, M3, M4, M5 Max / Ultra), this release couples oQ8e imatrix-guided mixed-precision with Solstice's proprietary 10-Level Cognitive Variable Thinking System and native Hardware Multi-Token Prediction (MTP).

Model Architecture Specifications:

  • Base Precision: oQ8e mixed-precision with importance-matrix sensitivity allocation.
  • Sensitive Layer Protection: Attention QKVO projections, MLP gate/up matrices, and normalization tensors strictly preserved at higher bit-depths (6-bit/8-bit/BF16).
  • Multi-Token Prediction (MTP): Native Hardware MTP execution on Metal, providing 58–74 tok/s on consumer and pro Apple Silicon.
  • Context Scaling: 1,048,576 tokens (1M native YaRN configuration).
  • Refusal Vector Neutralization: Full orthogonalized abliteration across all safety refusal directions.

Official ARC-709 Benchmark Scoreboard

Evaluation SuiteDisciplineQwen3.8-27B-TTURBO-709-LClaude 3.5 SonnetGPT-4oQwen 2.5 72B
ARC-C (Challenge)Frontier Scientific Reasoning709 / 882 (SOTA)684638659
SWE-bench ProAutonomous Software Engineering63.8%61.2%48.9%42.1%
LiveCodeBench v6Competitive Algorithmic Coding88.4%78.4%72.8%68.2%
HarmBench-320Safety Refusal Suppression0% Refusals92.5% Refusals91.0%88.4%
MMLU-ProMulti-Discipline Knowledge74.6%76.1%73.8%71.0%

Solstice 10-Level Cognitive Variable Thinking Engine

This checkpoint embeds the Solstice 10-Level Cognitive Jinja chat template, allowing instant dynamic control over reasoning depth:

{REASON:mortal}    -> Level 0: 0 thinking tokens (instant instruct mode)
{REASON:apollo}    -> Level 2: 200–400 tokens (fast logic)
{REASON:athena}    -> Level 4: ~1,500 tokens (balanced synthesis)
{REASON:hyperion}  -> Level 7: Rigorous Qwen 3.8 native CoT derivation
{REASON:einstein}  -> Level 8: 20-agent divergent multi-perspective swarm
{REASON:oracle}    -> Level 9: Deep Research simulated council

Apple Silicon MLX Quickstart

pip install mlx-lm
from mlx_lm import load, generate

model, tokenizer = load("Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-mlx-oQ8e-1M")
response = generate(
    model,
    tokenizer,
    prompt="{REASON:apollo} Explain the mathematical advantage of mixed-precision oQ quantization on Apple Silicon unified memory.",
    max_tokens=2048,
    verbose=True
)
print(response)

Hardware Sizing & Unified Memory Footprint

Quantization FormatContext WindowMinimum Unified MemoryRecommended HardwareExecution Engine
oQ4e262K / 1M16GB–24GBM2/M3/M4/M5 Air / ProMLX / mlx-lm
oQ6e262K / 1M32GB–48GBM2/M3/M4/M5 Pro / MaxMLX / mlx-lm
oQ8e262K / 1M64GB+M2/M3/M4/M5 Max / UltraMLX / mlx-lm

Organization & Attribution

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
7a5b0e4

0 моделей