MARTHA-LXVIII.21b_QWEN-3.5-3.6_prune_27b-3.6_base-i1-GGUF

Модель предназначена для локального запуска в совместимых инструментах, поддерживающих формат GGUF и семейство llama.cpp-подобных загрузчиков.

По заявленным метаданным модель ориентирована на разговорные сценарии, ролевое общение, художественное и творческое письмо. Она позиционируется как мультимодальная модель с поддержкой изображений и текста, включая задачи image-text-to-text, однако подробности о реализации визуального модуля не указаны. Заявленный язык — английский. В названии и описании упоминается базовая модель с размером около 21,2 млрд параметров и pruning от варианта на 27 млрд параметров; точная архитектура и размер контекстного окна не приведены.

Доступны многочисленные варианты квантизации — от IQ1 и Q2 до Q6, с различными компромиссами между размером, скоростью и качеством. В README отмечается, что IQ-квантизации часто предпочтительнее сопоставимых обычных вариантов; Q4_K_S обозначен как оптимальный баланс размера, скорости и качества, а отдельные варианты с низким битрейтом характеризуются как низкокачественные. Модель помечена как uncensored, поэтому при использовании следует учитывать возможное отсутствие стандартных ограничений на содержание. Лицензия указана как zpi-model-license-v2; применяются условия лицензии ZERO-POINT-AI, подробности доступны по ссылке на NOTICE.