/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Архитектура
llama · dense
Библиотека
transformers
Опубликована
4 окт 2023

ko-ref-llama2-13b

Генерация текстаТекст → текст3 профессии

Корейская авторегрессионная модель на базе LLaMA 2 с 12,9 млрд параметров для генерации текста.

68скачиваний за 30 дней1лайквеса обновлены4 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ko-ref-llama2-13b — авторегрессионная языковая модель на архитектуре LLaMA 2, разработанная Hyunseok Lee и Taeyoung Kim из KAIST AI/INLAB и omnious.ai. Модель содержит 12,9 млрд параметров, работает с текстом и использует библиотеку Transformers в формате PyTorch; базовая модель — Llama-2-13B.

Модель обучена на открытом корейском датасете с целью изучения корейского корпуса и предназначена для генерации текста на корейском языке. Контекст составляет 2048 токенов. Лицензия в предоставленных данных не указана.

Сценарии применения

  • генерация текста на корейском языке
  • продолжение корейских текстов
  • создание корейских черновиков и формулировок

Ограничения

Контекст ограничен 2048 токенами. Модель обучалась на открытом корейском корпусе; качество для других языков и сценариев в предоставленных материалах не охарактеризовано.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Developers HyunseokLee, TaeyoungKim - (kaist alinlab, omnious.ai)

Input Models input text only.

Output Models generate text only.

Model Architecture
ko-ref-llama2-13b is an auto-regressive language model based on the LLaMA2 transformer architecture.

Base Model
Llama-2-13B

Training Dataset
Open dataset (Korean).

Training Objective
We trained the model to learn Korean corpus.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
c5d0963

0 моделей