/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
MiniCPM5-1B
Опубликована
27 мая 2026

MiniCPM5-1B-i1-GGUF

Генерация текстаТекст → текст9 профессий

RemySkye/MiniCPM5-1B-i1-GGUF — это набор квантизированных версий языковой модели openbmb/MiniCPM5-1B, опубликованный в формате GGUF.

1 404скачиваний за 30 дней2лайкавеса обновлены28 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Квантизация выполнена с помощью llama.cpp и Importance Matrix (imatrix). Модель предназначена для генерации текста, работы с длинным контекстом и сценариев с вызовом инструментов, включая локальное и периферийное развертывание на устройствах с ограниченными ресурсами.

В репозитории доступны 26 файлов: базовые варианты BF16, FP16 и FP32, а также 23 уровня квантизации, включая IQ1_S, IQ2_XXS, Q4_K_M и Q8_0. Модель содержит около 1 млрд параметров и заявлена для работы с английским языком. Точные характеристики контекстного окна и поддерживаемых модальностей в README не указаны; по представленным данным это текстовая модель.

Основные преимущества — широкий выбор форматов и уровней квантизации, возможность локального запуска и адаптация к разным ограничениям по памяти. Ограничение состоит в том, что квантизация ниже 4 бит может приводить к неприемлемому снижению качества, особенно для модели такого небольшого размера. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MiniCPM5-1B-i1-GGUF

This repository contains GGUF format quantizations of the model openbmb/MiniCPM5-1B. These models were generated using llama.cpp with an Importance Matrix (imatrix) - https://gist.github.com/bartowski1182/82ae9b520227f57d79ba04add13d0d0d

Models Available

The collection includes a total of 26 files:

  • Baseline Formats: BF16, FP16, and FP32
  • Quantization Types: 23 different levels including IQ1_S, IQ2_XXS, Q4_K_M, and Q8_0
  • Importance Matrix: imatrix.gguf is included for reference or custom use

NOTE

Quantization below 4 bits may result in unacceptably low quality, particularly for a 1B parameter model, which is inherently more sensitive to such compression.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
c7c8a85

0 моделей