/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
10,6 млрд
Размер весов
21,5 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
nox-solar-10.7b-v4
Опубликована
25 мар 2024

nox_DPOv3

Генерация текстаТекст → текст3 профессии

Корейская разговорная Llama-модель на 10,6 млрд параметров, дообученная DPO для генерации текста и ответов в диалоге.

16скачиваний за 30 дней1лайквеса обновлены26 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

nox_DPOv3 — разговорная языковая модель Youjin Chung и Jingyeom Kim, дообученная методом DPO на базе davidkim205/nox-solar-10.7b-v4. Она предназначена для генерации текста и ответов в диалоге; базовая модель описана как корейская Llama-модель. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 10,6 млрд параметров и поддерживает контекст до 4096 токенов.

Для обучения использовались собственный DPO-датасет на основе материалов AI Hub и переведённые англоязычные данные, включая OpenOrca DPO. В README приведены результаты оценки на корейских задачах Ko LM Eval Harness. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает ограничения применения или гарантии качества.

Сценарии применения

  • ответы на вопросы в диалоге на корейском языке
  • генерация корейского текста
  • создание разговорного чат-бота
  • оценка ответов на корейских тестах понимания и рассуждения

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

nhn_dpo_v3_nox-solar-10.7b-v4_DPO

Our Team

  • Youjin Chung
  • Jingyeom Kim

Model

Base Model

Hardware and Software

  • Hardware: A100 * 8 for training our model
  • Deepspeed library & Huggingface TRL Trainer

Dataset

  • DPO_dataset
    • 자체 제작 dpo dataset(AI-hub dataset 활용)
    • OpenOrca DPO 등 영어 데이터셋 번역(ENERGY-DRINK-LOVE/translate_share_gpt_dedup_llama_SFT_1024, 자체모델 활용)

Training Method

Benchmark

Ko LM Eval Harness

0 shot (macro f1)

kobest_boolqkobest_copakobest_hellaswagkobest_sentineg
0.9316130.7407510.4686020.488465

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
b83a769

0 моделей