/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
12,9 млрд
Размер весов
26,3 ГБ
Лицензия
Llama 2
Архитектура
llama · dense
Библиотека
transformers
Опубликована
1 янв 2024

mnsim-dpo-peftmerged-2-eos

Генерация текстаТекст → текст3 профессии

Диалоговая модель на базе Llama 2 для генерации ответов на инструкции на корейском и английском языках.

74скачиваний за 30 дней0лайковвеса обновлены11 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

msy127/mnsim-dpo-peftmerged-2-eos — разговорная модель генерации текста на архитектуре Llama, подготовленная командой, указанной в карточке как David Sohn. Она основана на mncai/llama2-13b-dpo-v7 и предназначена для диалогов в формате пользовательских инструкций; в карточке показан пример вопроса о здоровом питании. Модель также представлена как часть платформы AI Companion для общения с виртуальным собеседником.

Модель содержит 12,9 млрд параметров, использует библиотеку Transformers и веса Safetensors. Карточка указывает поддержку корейского и английского языков и контекст длиной 2048 токенов. Лицензия — llama2. README отмечает пользовательский формат инструкций и наличие chat template, поэтому при использовании важно соблюдать ожидаемый формат диалога.

Сценарии применения

  • ответы на вопросы в диалоге на корейском языке
  • ответы на вопросы в диалоге на английском языке
  • общение с виртуальным персонажем
  • консультационные беседы на общие темы

Ограничения

Для корректного диалога требуется учитывать пользовательский формат инструкций из карточки. README не приводит оценок качества или результатов тестирования модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

license: llama2 language:

  • ko
  • en library_name: transformers base_model: mncai/llama2-13b-dpo-v7 pipeline_tag: text-generation

mnsim-dpo-peftmerged-2-eos

Our Team

Research & EngineeringProduct Management
David SohnDavid Sohn

Model Details

Base Model

mncai/llama2-13b-dpo-v7

Trained On

  • OS: Ubuntu 22.04
  • GPU: A100 40GB 1ea
  • transformers: v4.35.2

Instruction format

It follows Custom format.

E.g.

text = """\
<s>
<|user|>
건강한 식습관을 만들기 위해서는 어떻게 하는것이 좋을까요?
<|assistant|>
"""

Implementation Code

This model contains the chat_template instruction format.
You can use the code below.

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="msy127/mnsim-dpo-peftmerged-2-eos")

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("msy127/mnsim-dpo-peftmerged-2-eos")
model = AutoModelForCausalLM.from_pretrained("msy127/mnsim-dpo-peftmerged-2-eos")

Introduction to our service platform

  • AI Companion service platform that talks while looking at your face.
  • You can preview the future of the world's best, character.ai.
  • https://livetalkingai.com

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
acc0eb9

0 моделей