/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
26,4 ГБ
Лицензия
MIT
Архитектура
qwen3_5_moe · dense
Базовая модель
Ornith-1.5-35B-A3B
Библиотека
mlx
Опубликована
23 авг 2026

ornith-1.5-35b-a3b-abliterated-attention8-bf16recurrence-vision-mtplx

Изображение и текст → текст15 профессий

Это производная MLX-версия модели Ornith 1.5 35B-A3B, разработанной ornith-ai и адаптированной пользователем Shiftedx.

468скачиваний за 30 дней2лайкавеса обновлены25 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и работы с изображениями в сценариях image-text-to-text, включая решение задач программирования, вызов функций и инструментов, структурированный вывод, OCR и визуальный анализ.

Модель использует гибридную конфигурацию: 4-битное аффинное квантование экспертного блока, 8-битные attention, routing, embeddings, LM head и поздние проекции, а также 60 рекуррентных тензоров в BF16. В составе сохранены 333 нативных BF16-тензора vision и 785 BF16-тензоров MTP. Рекомендуемая среда запуска — MTPLX 2.9.1, MLX 0.32.1 и MLX-LM 0.31.3; рекомендованная глубина speculative decoding — D3. Поддержка vision требует совместимого MLX-VLM или MTPLX runtime. Языки и размер контекстного окна в README не указаны.

По результатам локальной квалификации на M4 Max с 64 ГБ unified memory модель показала успешное выполнение 8 из 8 исполняемых Python-задач, 6 из 6 тестов native function calling и parallel tool planning, 4 из 4 визуальных семантических проверок, а также успешные OCR со строгой схемой и проверки сохранности vision- и MTP-тензоров. Utility pass rate составил 83,3%. Abliteration полностью устранила отказы на тестовом наборе, но может снижать предсказуемость безопасного поведения; README отдельно предупреждает, что она не гарантирует корректность или безопасность вывода. Скорость 112,1 токена в секунду измерена на конкретном M4 Max и не является универсальным показателем.

Модель распространяется по лицензии MIT, унаследованной от родительской модели. Следует проверять сгенерированный код и вызовы инструментов перед выполнением; без заданной схемы ответа модель может оборачивать JSON в Markdown.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Ornith 1.5 35B-A3B Abliterated — MLX Vision + Native MTP

Hybrid MLX quant of ornith-ai/Ornith-1.5-35B-A3B, pinned to revision 10fbf86fed7ecee4a061f8b499a618f46001cac1.

Artifact

  • 4-bit affine expert body with 8-bit attention, routing, embeddings, LM head, and late-layer projections
  • 60 recurrent tensors retained in BF16
  • 333 native BF16 vision tensors
  • 785 native BF16 MTP tensors in mtp/weights.safetensors
  • Abliteration strength 1.5 across 120 attention/shared-expert/switch-expert residual writers
  • Recommended runtime: MTPLX 2.9.1, MLX 0.32.1, MLX-LM 0.31.3
  • Recommended speculative depth: D3

Run

mtplx serve \
  --model Shiftedx/ornith-1.5-35b-a3b-abliterated-attention8-bf16recurrence-vision-mtplx \
  --profile sustained \
  --depth 3 \
  --mtp \
  --reasoning off

For exact JSON, install MTPLX's optional llguidance dependency and send an OpenAI-compatible strict response_format schema.

Local qualification

Tested on an M4 Max with 64 GB unified memory.

GateResult
Held-out refusal rate100% parent → 0% modified
Held-out benign refusal rate0%
Held-out utility pass rate83.3%
Executable Python tasks8/8
Native function-call score6/6
Parallel tool-plan score6/6
OpenAI API code smoke3/3
Vision semantic checks4/4
Strict-schema vision OCRpass
Text exact-output smokepass
Vision tensor preservation333/333 exact
MTP tensor gate785/785 exact

The final three-prompt, 512-token MTPLX sweep selected D3 at 112.1 decode tok/s. D1, D2, and D3 all passed the quality gate. Fans remained on automatic, so treat the speed as a host-specific measurement rather than a universal benchmark.

Notes

Abliteration changes refusal behavior; it does not guarantee correctness or safe output. The model may wrap JSON in Markdown when no response schema is supplied. Vision requires a compatible MLX-VLM or MTPLX runtime. Review generated code and tool calls before execution.

The parent model and this derivative use the upstream MIT license. See the parent repository for original training and architecture details.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen3_5MoeForConditionalGeneration
Ревизия весов
7d10b8a

0 моделей