[!NOTE] This repository contains models that have been converted to the GGUF format with various quantizations from an IBM Granite
.safetensorsmodel.Please reference the base model's full model card here: https://huggingface.co/ibm-granite/granite-4.1-3b
Характеристики
- Лицензия
- Apache 2.0
- Базовая модель
- granite-4.1-3b
- Библиотека
- transformers
- Опубликована
- 16 апр 2026
Ссылки
granite-4.1-3b-GGUF
ibm-granite/granite-4.1-3b-GGUF — это семейство версий модели IBM Granite 4.1 с примерно 3 млрд параметров, преобразованных из формата .safetensors в GGUF.
7 068скачиваний за 30 дней14лайковвеса обновлены20 апр 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель разработана IBM и предназначена для генерации текста; формат GGUF ориентирован на использование в совместимых локальных инструментах вывода, а наличие различных вариантов квантования позволяет выбирать компромисс между качеством, скоростью работы и потреблением памяти.
В предоставленной карточке не указаны точная архитектура, поддерживаемые языки и модальности, размер контекста, результаты оценки, требования к ресурсам и конкретные сценарии применения. Поэтому сильные стороны можно определить только как преимущества формата GGUF и доступность нескольких уровней квантования, а ограничения — как зависимость качества и производительности от выбранного варианта квантования и используемого программного обеспечения. Модель распространяется по лицензии Apache-2.0.
Для каких профессий подходит6
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельII.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.
- Ревизия весов
- ab47014