/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
granite-4.1-30b
Библиотека
transformers
Опубликована
17 апр 2026

granite-4.1-30b-GGUF

Генерация текстаТекст → текст12 профессий

ibm-granite/granite-4.1-30b-GGUF — это конверсия модели IBM Granite 4.1 30B в формат GGUF, предназначенная для запуска и инференса с инструментами, поддерживающими этот формат.

1 124скачиваний за 30 дней8лайковвеса обновлены21 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Разработчик исходной модели — IBM; репозиторий содержит варианты с различными уровнями квантования, преобразованные из модели в формате .safetensors. Базовая модель указана как ibm-granite/granite-4.1-30b.

Модель относится к задачам генерации текста и может использоваться в сценариях локального или оптимизированного инференса, совместимого с GGUF. Из доступных данных известны размер базовой модели — 30B параметров, текстовая модальность и поддержка библиотеки Transformers; сведения о конкретной архитектуре, языках, размере контекста, результатах тестирования и сильных или слабых сторонах отсутствуют. Вариант bf16 разделён на пять файлов из-за ограничений на размер одного файла и может быть объединён инструментом llama-gguf-split.

Лицензия — Apache-2.0. Условия применения квантованных вариантов, требования к аппаратным ресурсам и совместимость с конкретными средствами запуска в карточке подробно не указаны.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

[!NOTE] This repository contains models that have been converted to the GGUF format with various quantizations from an IBM Granite .safetensors model.

Please reference the base model's full model card here: https://huggingface.co/ibm-granite/granite-4.1-30b

Merging the .bf16 model

The bf16 model had to be split into multiple files to accommodate single file size restrictions using the llama-gguf-split tool, with its default --split settings, which can be built from the ggml-org/llama.cpp project.

Use the following command to merge the split files which points to the first file in the sequence:

llama-gguf-split --merge granite-4.1-30b-bf16-00001-of-00005.gguf granite-4.1-30b-bf16.gguf

The remaining split filenames are inferred by the tool based upon the 00001-of-0000x naming convention.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
26a44ff

0 моделей