mondk/MiniCPM5-2B-Abliterated-Uncensored-GGUF — языковая модель для генерации текста в формате GGUF, разработанная mondk на основе openbmb/MiniCPM5-2B с применением abliteration.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель ориентирована на текстовые сценарии, включая генерацию текста и, согласно тегам, вызов инструментов; также заявлена пригодность для работы на устройствах и периферийных системах.
Модель поддерживает английский и китайский языки. Архитектура MiniCPM5 и размер 2B параметров указаны в её идентификаторе и базовой модели. Представлена в формате GGUF, однако конкретная версия квантования в README не указана. Модель описана как uncensored-версия, поэтому её поведение и ограничения безопасности могут отличаться от исходной модели; подробные сведения о качестве, контекстном окне, производительности и поддерживаемых режимах вызова инструментов отсутствуют.
Распространяется по лицензии Apache-2.0. Для использования доступны также варианты Safetensors и MLX-4Bit, но сама карточка не содержит дополнительных технических характеристик или результатов оценки.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is an uncensored version of openbmb/MiniCPM5-2B created with abliteration.
Looking for a other build? See:
SAFETENSORS: mondk/MiniCPM5-2B-Abliterated-Uncensored-Safetensors
MLX-4Bit: mondk/MiniCPM5-2B-Abliterated-Uncensored-MLX-4Bit
Sorry, there are no other quantization versions available. To download Q2_K, Q3_K_S, Q3_K_M, Q4_K_S, and Q5_K_S, visit mradermacher/MiniCPM5-2B-Abliterated-Uncensored-Safetensors-GGUF
ty!
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.