This repo includes the GGUF versions of MiniCPM3-4B:
- minicpm3-4b-fp16.gguf
- minicpm3-4b-q4_k_m.gguf
For usage and more information, please check our GitHub repo.
MiniCPM3-4B-GGUF
Языковая модель11 профессий
openbmb/MiniCPM3-4B-GGUF — это набор файлов модели MiniCPM3-4B в формате GGUF, разработанной командой OpenBMB.
3 613скачиваний за 30 дней10лайковвеса обновлены18 сен 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Репозиторий содержит варианты minicpm3-4b-fp16.gguf и minicpm3-4b-q4_k_m.gguf.
Модель предназначена для локального запуска в совместимой с GGUF инфраструктуре; конкретные сценарии применения, архитектура, размер контекста и поддерживаемые модальности в представленном README не указаны. Известно, что заявлены английский и китайский языки, а базовой моделью является openbmb/MiniCPM3-4B. Варианты FP16 и Q4_K_M различаются способом хранения и уровнем квантования, что может влиять на требования к памяти и качество работы.
Лицензия и ограничения использования в README не указаны. Для подробностей по применению предлагается обратиться к репозиторию OpenBMB/MiniCPM.
Для каких профессий подходит11
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельII.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиI.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача, поэтому рантайм не знает, как её запускать.
- Ревизия весов
- 816dc79