Характеристики

Контекст: 131 072 токена
Параметры: 28,9 млрд
Размер весов: 58,6 ГБ
Лицензия: Apache 2.0
Архитектура: granite · dense
Базовая модель: granite-4.2-30b
Библиотека: mlx
Опубликована: 27 авг 2026

Ссылки

Hugging Face

granite-4.2-30b-bf16-mlx

salohcin714

Генерация текстаТекст → текст6 профессий

Конвертированная в формат MLX многоязычная модель Granite-4.2-30B для генерации текста и диалогов на Apple Silicon.

67скачиваний за 30 дней0лайковвеса обновлены27 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это конвертированная для MLX версия многоязычной языковой модели Granite-4.2-30B, подготовленная владельцем репозитория salohcin714 на основе ibm-granite/granite-4.2-30b. Модель предназначена для генерации текста и диалогов; её можно запускать на Apple Silicon через библиотеку MLX. Архитектура — плотная авторегрессионная GraniteForCausalLM с 28,9 млрд параметров и контекстом до 131 072 токенов.

Модель принимает текст и генерирует текст. В карточке указаны английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Веса сохранены в исходной точности bfloat16 без квантизации и дообучения; репозиторий использует формат MLX safetensors. Лицензия — Apache-2.0.

Карточка описывает конверсию весов и не подтверждает отдельные улучшения качества. Бенчмарки исходной модели нельзя считать результатами проверки этой конвертированной версии.

Сценарии применения

ведение диалога на нескольких языках
генерация текстовых ответов на запросы
запуск Granite-4.2-30B на компьютерах Apple Silicon
обработка длинных текстовых запросов с большим контекстом

Ограничения

Отдельное дообучение не проводилось, а качество этой конвертированной версии не подтверждено опубликованными бенчмарками. Для запуска требуется совместимое окружение MLX, обычно на Apple Silicon.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

granite-4.2-30b-bf16-mlx

Provenance

Converted from ibm-granite/granite-4.2-30b using mlx-lm 0.31.3.

Usage

from mlx_lm import load, generate

model, tokenizer = load("salohcin714/granite-4.2-30b-bf16-mlx")
messages = [{"role": "user", "content": "Hello"}]
prompt = tokenizer.apply_chat_template(messages, add_generation_prompt=True)
text = generate(model, tokenizer, prompt=prompt, verbose=True)

Modifications

Weights converted to MLX safetensors layout (no quantization; weights kept in their original bfloat16 precision). Redundant tied lm_head.weight dropped where the model ties input/output embeddings. No fine-tuning; no added training data.

License and attribution

Licensed under Apache 2.0. Original weights by the Granite Team, IBM. See the upstream model card and the included LICENSE file for the full text.

Disclaimer

This repository is not affiliated with or endorsed by IBM. "Granite" is an IBM trademark, used here descriptively to identify the origin of the base model. IBM's published benchmarks describe the original weights, not this quantized/converted artifact, and must not be read as claims about this repo.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: GraniteForCausalLM
Ревизия весов: 94f4a76