Набор подготовлен пользователем alztrk на основе модели Ornith-1.5-35B-A3B от ornith-ai и предназначен для локальной генерации текста в Ollama, LM Studio и llama.cpp.

Базовая модель имеет гибридную архитектуру с 40 слоями и конфигурацию MoE на 35 млрд параметров, из которых около 3 млрд активируются на токен. Вариант Abliterated создан с помощью направленной абляции: из матриц attention и MLP down-projection удалены направления, связанные с отказами в ответах. Заявлены языки English, Turkish и Chinese; модель относится к категории text-generation. Контекст в README явно не указан, но пример запуска использует 8192 токена.

Доступны варианты Dynamic Q3_K_M размером около 15,61 ГБ, Q4_K_M около 19,71 ГБ, Q5_K_M около 23,03 ГБ и Q8_0 около 34,37 ГБ. Q4_K_M описан как сбалансированный вариант для GPU с 12–16 ГБ VRAM, Q3_K_M требует меньше памяти, а Q8_0 обеспечивает более высокую точность. Ограничениями являются необходимость локального оборудования и отсутствие подробных данных о качестве, производительности и поддерживаемых модальностях; указанный вариант ориентирован на текст и не заявляет мультимодальные возможности. Производный исходный проект распространяется по лицензии Apache 2.0 / MIT.