[!NOTE] This repository contains models that have been converted to the GGUF format with various quantizations from an IBM Granite
.safetensorsmodel.Please reference the base model's full model card here: https://huggingface.co/ibm-granite/granite-4.1-8b
Характеристики
- Лицензия
- Apache 2.0
- Базовая модель
- granite-4.1-8b
- Библиотека
- transformers
- Опубликована
- 16 апр 2026
Ссылки
granite-4.1-8b-GGUF
ibm-granite/granite-4.1-8b-GGUF — это версия модели IBM Granite 4.1 с 8 млрд параметров, преобразованная в формат GGUF.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель разработана IBM и предназначена для задач генерации текста; репозиторий содержит варианты с различными уровнями квантования, созданные на основе модели ibm-granite/granite-4.1-8b в формате Safetensors.
Формат GGUF удобен для локального запуска и совместим с программными средствами, поддерживающими этот формат, однако конкретные требования к памяти, производительность и качество зависят от выбранной квантованной версии. В предоставленной карточке не указаны архитектурные детали, поддерживаемые языки, размер контекста, дополнительные модальности и специализированные сценарии применения, поэтому эти характеристики нельзя достоверно определить по имеющимся данным.
Модель распространяется по лицензии Apache 2.0. Для подробной информации о возможностях, ограничениях и базовых характеристиках следует обратиться к полной карточке базовой модели ibm-granite/granite-4.1-8b.
Для каких профессий подходит13
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
- II.10Разработка и эксплуатация AI/ML-систем
- I.7Речь, диалоги и встречи
- I.6Перевод и языковая адаптация
- II.1Анализ требований и архитектура ПО
- I.3Извлечение и структурирование данных
- I.11Классификация, ранжирование и сопоставление
- I.14Автоматизация процессов и AI-агенты
- II.3Рефакторинг, миграция и модернизация
- II.4Отладка, тестирование и качество ПО
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.
- Ревизия весов
- 865b82c