DeepSeek-R1-Distill-Qwen-7B-abliterated-GGUF
This is made by using llama-export-lora
DeepSeek-R1-Distill-Qwen-7B-abliterated-GGUF — это квантизированная GGUF-версия модели, созданная ngxson на основе DeepSeek-R1-Distill-Qwen-7B с использованием LoRA-адаптера LoRA-Qwen2.5-7B-Instruct-abliterated-v3-F16-GGUF.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
В карточке указано, что модель предназначена для генерации текста и относится к категории text-generation.
Из доступных данных следует, что базовая модель связана с семейством Qwen и имеет размер 7B параметров. Точные сведения об архитектуре, поддерживаемых языках, длине контекста, доступных вариантах квантизации, производительности и практических сценариях использования не приведены. Также отсутствует описание сильных сторон и ограничений модели.
Лицензия и условия использования в README не указаны, поэтому их нельзя определить по имеющимся данным.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is made by using llama-export-lora
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.