/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
granite-swash-3b-a600m
Опубликована
13 авг 2026

granite-swash-3b-a600m-GGUF

Генерация текстаТекст → текст4 профессии

GGUF-конверсия BF16 модели IBM Granite SWASH 3B-a600M для генерации текста с контекстом 8192 токена.

45скачиваний за 30 дней1лайквеса обновлены13 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это конвертированная в GGUF BF16 версия Granite SWASH 3B-a600M от IBM, подготовленная emredeveloper. Модель использует архитектуру GraniteMoeSWAForCausalLM с архитектурой смеси экспертов (MoE), скользящим оконным вниманием и обучаемыми attention sinks. В ней 3,02 млрд параметров, из которых около 600 млн активны на каждом токене; длина контекста — 8192 токена.

Модель предназначена для генерации текста и запуска в совместимой инфраструктуре GGUF, включая llama.cpp с поддержкой GraniteMoeSWA. Репозиторий содержит BF16-конверсию исходной модели IBM. Лицензия — Apache-2.0.

Сценарии применения

  • локальная генерация текста в совместимой среде GGUF
  • продолжение текстового фрагмента
  • развёртывание компактной MoE-модели для генерации

Ограничения

Для запуска требуется среда с поддержкой GraniteMoeSWA в GGUF; в README указана экспериментальная поддержка в llama.cpp. Контекст ограничен 8192 токенами.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Granite SWASH 3B-a600M GGUF

GGUF conversion of:

ibm-granite/granite-swash-3b-a600m

Original model: https://huggingface.co/ibm-granite/granite-swash-3b-a600m

Architecture

  • GraniteMoeSWAForCausalLM
  • Mixture of Experts
  • Sliding Window Attention
  • Learnable Attention Sinks
  • 3.02B total parameters
  • ~600M active parameters per token
  • 8192 context length

Files

BF16

granite-swash-3b-a600m-BF16.gguf

Converted using experimental GraniteMoeSWA support from llama.cpp PR #25505:

https://github.com/ggml-org/llama.cpp/pull/25505

License

Apache-2.0, following the original IBM Granite model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
d20c88f

0 моделей