Ornith-1.5-35B-A3B-ONYX-GGUF

Модель предназначена для генерации текста и, судя по заявленным меткам, ориентирована на задачи рассуждений и локальный запуск через llama.cpp или Ollama. Архитектура исходной модели относится к классу Mixture-of-Experts (MoE), однако точные сведения о числе экспертов, активных параметрах, поддерживаемых языках, контекстном окне и мультимодальности в README не указаны.

Ключевая особенность сборки — адаптивная квантизация ONYX, учитывающая чувствительность отдельных слоёв, вероятности маршрутизации MoE и масштабы активаций. Это позволяет сильнее сжимать менее востребованные эксперты и лучше сохранять параметры критически важных компонентов. Доступны варианты quality, balanced, compact и mini с ориентировочными размерами от 12 до 24 ГБ и различными типами квантизации, что даёт выбор между качеством, размером и требованиями к памяти. README не содержит сведений о лицензии, результатах бенчмарков или подтверждённых ограничениях качества.