Характеристики

Контекст: 262 144 токена
Размер весов: 19,5 ГБ
Лицензия: MIT
Архитектура: qwen3_5_moe · dense
Базовая модель: Ornith-1.0-35B
Библиотека: mlx
Опубликована: 27 июн 2026

Ссылки

Ornith-1.0-35B-MTPLX

Генерация текстаТекст → текст3 профессии

Ornith-1.0-35B-MTPLX — производная версия модели Ornith-1.0-35B от deepreinforce-ai, дополненная официальным MTP-слоем из Qwen/Qwen3.5-35B-A3B и упакованная для MTPLX.

1 024скачиваний за 30 дней25лайковвеса обновлены30 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и агентного программирования, особенно при использовании speculative decoding на устройствах Apple Silicon. Указан английский язык.

Это MoE-модель архитектуры Qwen3_5MoeForConditionalGeneration с конфигурацией MTPLX qwen3-next-mtp. Базовая модель имеет размер 35B-A3B, а MTP-часть использует 256 экспертов и один слой. Основные веса и MTP-sidecar квантизированы в 4-bit affine с group size 64. При тестировании на M3 Max глубина MTP 3 обеспечила скорость 116,4 токена/с против 76,3 токена/с без MTP, то есть ускорение примерно в 1,53 раза; уровень принятия токенов составил 91,5%, 80,3% и 65,6% для последовательных шагов.

Сильная сторона модели — практическое ускорение спекулятивного декодирования: 4-битная квантизация MTP существенно снижает стоимость чернового прохода при незначительной потере принятия токенов. Ограничения включают зависимость от MTPLX, Apple Silicon и сценария speculative decoding; сведения о размере контекста, поддерживаемых модальностях и качестве на стандартных бенчмарках не указаны. Производная модель выпущена под лицензией MIT; для заимствованных MTP-тензоров также применяются Apache-2.0 и соответствующее NOTICE от Qwen.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Ornith-1.0-35B-MTPLX

A multi-token-prediction (MTP) graft onto deepreinforce-ai/Ornith-1.0-35B, packaged for MTPLX native speculative decoding on Apple Silicon.

Ornith-1.0-35B (qwen35moe, 35B-A3B, Qwen3.5 base) is a strong agentic-coding MoE but ships without MTP heads. This build grafts the official 1-layer MoE-MTP from Qwen/Qwen3.5-35B-A3B (the upstream base of Ornith — dimensions match exactly) and quantizes the MTP to 4-bit, which is what makes the speedup practical (see below).

Performance (M3 Max, measured)

Mode	tok/s	Speedup	MTP acceptance
AR (no MTP)	76.3	1.00×	—
MTP depth 1	103.6	1.36×	89.6%
MTP depth 2	114.9	1.50×	93.1% / 78.2%
MTP depth 3	116.4	1.53×	91.5% / 80.3% / 65.6%

verdict: mtp_depth_wins · MTPLX inspect tier: verified

Why 4-bit MTP (not bf16)

A bf16 graft of this same MTP layer was a net ~20× slowdown despite 92% acceptance — the MTP is a full 256-expert MoE layer, and at bf16 its draft forward costs ~67–143 ms/token (it doesn't hit the fast MoE kernel). Quantizing the MTP experts to 4-bit affine drops the draft cost to ~2.5 ms/token (~27–51×) with negligible acceptance loss, flipping the result to a real 1.53× speedup. The bottleneck was draft cost, not acceptance.

Quantization

Body: 4-bit affine, group size 64
MTP sidecar: 4-bit affine, group size 64 (applied at load via mtplx_mtp_quantization in config.json)
Architecture: Qwen3_5MoeForConditionalGeneration / MTPLX arch_id qwen3-next-mtp

Usage (MTPLX)

mtplx tune  --model <path-to-this-model>      # confirms best MTP depth (D3, ~1.53×)
mtplx start --model <path-to-this-model>      # serve with MTP speculative decoding

Provenance & licensing

Base model: deepreinforce-ai/Ornith-1.0-35B — MIT
MTP source: Qwen/Qwen3.5-35B-A3B — Apache-2.0

This derivative is released under MIT, preserving the base model's license. The grafted MTP tensors originate from the Apache-2.0 licensed Qwen3.5-35B-A3B; that license and its NOTICE apply to those tensors. No weights were retrained — this is a graft + quantization repackaging.

Graft notes (reproducibility)

MTP mtp.* tensors lifted from Qwen3.5-35B-A3B (785 tensors: mtp.fc + mtp.layers.0.* with 256 experts).
Qwen3.5 RMSNorm uses delta encoding → MTP sidecar carries mtplx_mtp_norm_encoding="delta".
Forged with MTPLX forge (mtp_policy=requantize, --allow-degraded-mtp); contract calibrated exact_agreement.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры: Qwen3_5MoeForConditionalGeneration
Ревизия весов: 5ad4712