./llama-cli
-m minicpm5-2b-abliterated-FIT-QUALITY-1.46GiB-Q4_K_M.gguf
-ngl 99 -c 4096 -p "Hello" -n 256The chat template is embedded in every file — including the tool-calling and reasoning-content handling — so LM Studio, KoboldCpp, Jan and friends load them without extra configuration. This is a dense 2.5B text model: no vision projector, no MTP head, no MoE. The full 131,072-token context is available, but KV cache grows with it; start at -c 8192 and work up.
Характеристики
- Лицензия
- Apache 2.0
- Базовая модель
- MiniCPM5-2B
- Библиотека
- gguf
- Опубликована
- 10 сен 2026
Ссылки
MiniCPM5-2B-abliterated-FIT-GGUF
SC117/MiniCPM5-2B-abliterated-FIT-GGUF — это квантизированная GGUF-сборка текстовой генеративной модели openbmb/MiniCPM5-2B, подготовленная и проверенная с помощью FIT-GGUF.
1 714скачиваний за 30 дней3лайкавеса обновлены3 окт 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель относится к семейству MiniCPM, имеет около 2,5 млрд параметров и рассчитана на локальный запуск, в том числе на устройствах с ограниченными ресурсами. Поддерживаются английский и китайский языки, максимальная заявленная длина контекста — 128K токенов.
Сборка предназначена для генерации текста и работы через совместимые инструменты, включая llama.cpp. Доступны четыре уровня точности с размером файлов примерно от 1,14 до 1,46 GiB. FIT-GGUF подбирает распределение квантования по тензорам под заданный уровень сохранения качества и проверяет каждый файл относительно собственной BF16-версии с использованием измерений KL-дивергенции и совпадения наиболее вероятного токена. Это позволяет выбирать компромисс между размером, скоростью и качеством, однако универсальное оптимальное распределение квантования не заявлено.
Модель помечена как abliterated, то есть её поведение в части встроенных ограничений и отказов может отличаться от исходной версии; README не содержит подробного описания соответствующих изменений и оценок безопасности. К другим ограничениям относятся неизбежные потери качества при квантовании и отсутствие в предоставленных данных детальной спецификации архитектуры или результатов бенчмарков. Лицензия — Apache-2.0.
Для каких профессий подходит8
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.
- Ревизия весов
- 8c73d67