Quantized version of: huihui-ai/Qwen2.5-1.5B-Instruct-abliterated-SFT
'Make knowledge free for everyone'
DevQuasar/huihui-ai.Qwen2.5-1.5B-Instruct-abliterated-SFT-GGUF — квантизированная версия модели huihui-ai/Qwen2.5-1.5B-Instruct-abliterated-SFT.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста и использования в сценариях диалогового взаимодействия и выполнения инструкций.
Из доступных данных известно, что модель относится к семейству Qwen2.5 и имеет размер 1,5 млрд параметров в исходной версии. Формат GGUF указывает на подготовку для локального запуска в совместимых инструментах вывода. Поддерживаемые языки, размер контекста, точный вариант квантизации, перечень модальностей и архитектурные детали в README не указаны; заявлена только текстовая генерация.
К сильным сторонам относятся компактный размер и возможность более экономичного локального использования по сравнению с крупными моделями. Ограничения связаны с небольшим масштабом модели, отсутствием подтвержденных сведений о качестве, языковом покрытии и параметрах квантизации. Лицензия и условия использования в README не указаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Quantized version of: huihui-ai/Qwen2.5-1.5B-Instruct-abliterated-SFT
'Make knowledge free for everyone'
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.