Quantized version of: huihui-ai/Qwen2.5-7B-Instruct-abliterated-SFT
'Make knowledge free for everyone'
DevQuasar/huihui-ai.Qwen2.5-7B-Instruct-abliterated-SFT-GGUF — это квантованная версия модели huihui-ai/Qwen2.5-7B-Instruct-abliterated-SFT.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Репозиторий опубликован под идентификатором DevQuasar; исходный README не содержит более подробной информации о разработчиках квантованной версии. Модель предназначена для генерации текста и использования в сценариях, поддерживающих формат GGUF.
Из доступных данных известно, что модель относится к семейству Qwen2.5 и имеет размер 7B параметров в базовой версии, а также ориентирована на instruction-following благодаря основе Instruct. Квантование может снизить требования к памяти и упростить локальный запуск, однако конкретный тип квантования, доступные варианты файлов, поддерживаемые языки, размер контекста, архитектурные детали, показатели качества и совместимые инструменты в README не указаны. Лицензия и явные ограничения использования также не приведены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Quantized version of: huihui-ai/Qwen2.5-7B-Instruct-abliterated-SFT
'Make knowledge free for everyone'
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.