huihui-ai.Qwen2.5-3B-Instruct-abliterated-SFT-GGUF

Согласно карточке, модель предназначена для генерации текста и относится к классу instruction-tuned моделей; разработчик базовой модели — huihui-ai, а квантизированная версия опубликована под брендом DevQuasar.

Модель может использоваться в сценариях генерации текста и диалогового взаимодействия, включая локальный запуск с совместимыми инструментами для работы с форматом GGUF. Из доступных данных следует, что базовая модель относится к семейству Qwen2.5 и имеет размер около 3 млрд параметров, однако сведения об архитектуре, поддерживаемых языках, длине контекста, конкретном методе квантизации и характеристиках производительности в README не приведены.

К потенциальным преимуществам относятся меньшие требования к ресурсам по сравнению с полноразмерной версией и возможность локального использования. Ограничения модели и качество на конкретных задачах не описаны; также неизвестно, какие именно параметры квантизации применены. Лицензия и условия коммерческого использования в карточке не указаны.