MiniCPM5-2B-Abliterated-Uncensored-GGUF — это GGUF-версия языковой модели MiniCPM5 с 2 млрд параметров, созданная пользователем 0xSojalSec на основе openbmb/MiniCPM5-2B и преобразованная методом abliteration.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста, включая локальное использование на устройствах и edge-системах; в метаданных также заявлена поддержка сценариев tool-calling. Указаны английский и китайский языки.
Модель относится к текстовым генеративным моделям и распространяется в формате GGUF, ориентированном на запуск с совместимыми локальными средствами инференса. Подробности об архитектуре, размере контекста, конкретных требованиях к памяти и доступных вариантах квантизации в README не приведены. Обозначение «uncensored» указывает на удаление или ослабление части ограничений безопасности методом abliteration, поэтому поведение модели и надежность защитных механизмов могут отличаться от исходной модели.
Лицензия — Apache-2.0. README не содержит подробного описания качества, бенчмарков, ограничений, автора метода abliteration или точных условий использования, поэтому эти характеристики нельзя достоверно оценить по предоставленным данным.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is an uncensored version of openbmb/MiniCPM5-2B created with abliteration.
Looking for a other build? See:
SAFETENSORS: mondk/MiniCPM5-2B-Abliterated-Uncensored-Safetensors
MLX-4Bit: mondk/MiniCPM5-2B-Abliterated-Uncensored-MLX-4Bit
Sorry, there are no other quantization versions available. To download Q2_K, Q3_K_S, Q3_K_M, Q4_K_S, and Q5_K_S, visit mradermacher/MiniCPM5-2B-Abliterated-Uncensored-Safetensors-GGUF
ty!
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.