Характеристики

Контекст: 131 072 токена
Параметры: 8,2 млрд
Размер весов: 16,7 ГБ
Архитектура: granite · dense
Базовая модель: granite-3.1-8b-instruct
Библиотека: transformers
Опубликована: 2 янв 2025

Ссылки

Hugging Face

Granite-3.1-8B-instruct-Korean

mindw96

Генерация текстаТекст → текст

Дообученная на корейских текстах модель Granite 3.1 для диалогов и генерации текста на корейском языке.

26скачиваний за 30 дней0лайковвеса обновлены4 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Granite-3.1-8B-instruct-Korean — языковая модель, разработанная Dongwook Min (mindw96) на основе IBM Granite 3.1 8B Instruct. Модель полностью дообучена на общедоступном датасете beomi/KoAlpaca-v1.1a с предварительно обработанными корейскими текстами и предназначена для генерации текста и диалогов на корейском языке.

Это авторегрессионная плотная трансформерная модель семейства Granite с 8,2 млрд параметров и контекстом до 131 072 токенов. Она принимает текст и выдаёт текст; метаданные указывают поддержку корейского и английского языков. Репозиторий содержит веса в форматах PyTorch и Safetensors, модель рассчитана на использование через Transformers.

Модель подходит для корейскоязычных диалогов, ответов на инструкции и генерации текста. Карточка описывает обучение на публичном датасете, но не приводит оценок качества и подробных результатов тестирования. Лицензия в предоставленных данных не указана.

Сценарии применения

диалоги с пользователями на корейском языке
ответы на инструкции на корейском языке
генерация корейскоязычных текстов
черновики ответов на типовые вопросы по-корейски

Ограничения

Карточка не приводит результатов оценки качества или сравнительных тестов; обучение описано на датасете KoAlpaca-v1.1a. Лицензия не указана в предоставленных данных.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

Granite-3.1-8B-instruct-Korean

Granite-3.1-8B-instruct-Korean is continued pretrained(fully fine-tuned) language model based on Granite-3.1-8B-Instruct.

This model is trained fully with publicily available resource at HuggingFace dataset hub, preprocessed Korean texts.

The train was done on A6000 48GB * 4.

Model developers Dongwook Min (mindw96)

Dataset beomi/KoAlpaca-v1.1a

Variations Granite-3.1-8B-instruct-KR comes in one size — 8B.

Input Models input text only.

Output Models generate text only.

Model Architecture Granite 3.1 is an auto-regressive language model that uses an optimized transformer architecture.

Model Release Date 02.01.2025.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: GraniteForCausalLM
Ревизия весов: ca10e64