/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
10,7 млрд
Размер весов
21,7 ГБ
Лицензия
CC BY 4.0
Архитектура
llama · dense
Базовая модель
komt-solar-10.7b-sft-v5
Опубликована
11 мар 2024

komt_DPOv3

Генерация текстаТекст → текст3 профессии

KOMT-DPOv3 — корейская Llama-модель, дообученная методом DPO для генерации текста и ответов на инструкции.

12скачиваний за 30 дней0лайковвеса обновлены16 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KOMT-DPOv3 — дообученная модель генерации текста команды Youjin Chung и Jingyeom Kim на базе davidkim205/komt-solar-10.7b-sft-v5. Модель содержит 10,7 млрд параметров, использует архитектуру Llama и рассчитана на контекст до 4096 токенов.

Модель обучена методом Direct Preference Optimization (DPO) на корейских и англоязычных предпочтениях: набор включает собственные данные на основе AI Hub и переведённые англоязычные примеры OpenOrca DPO. Она предназначена для генерации ответов по инструкциям и диалогового использования, особенно на корейском языке. В README приведены результаты Ko-LLM-Leaderboard на 16 марта 2024 года.

Для весов указана лицензия CC BY 4.0. В карточке описан способ обучения, но подробные ограничения поведения и оценки на других языках не приведены.

Сценарии применения

  • ответы на инструкции на корейском языке
  • генерация корейских диалоговых ответов
  • создание текста по запросу на корейском языке

Ограничения

Контекст ограничен 4096 токенами. README приводит бенчмарки на корейском языке, но не описывает качество в других языках и подробные ограничения поведения.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ENERGY-DRINK-LOVE/komt_DPOv3

Our Team

  • Youjin Chung
  • Jingyeom Kim

Model

Base Model

Hardware and Software

  • Hardware: A100 * 8 for training our model
  • Deepspeed library & Huggingface TRL Trainer

Dataset

  • DPO_dataset
    • 자체 제작 dpo dataset(AI-hub dataset 활용)
    • OpenOrca DPO 등 영어 데이터셋 번역(ENERGY-DRINK-LOVE/translate_share_gpt_dedup_llama_SFT_1024, 자체모델 활용)

Training Method

Benchmark

Ko LM Eval Harness

Ko-LLM-Leaderboard

  • (240316기준 4등)
  • image/png
AverageKo-ARCKo-HellaSwagKo-MMLUKo-TruthfulQAKo-CommonGen V2
61.2057.5170.3353.3468.4956.32

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
b5d9eca

0 моделей