/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Базовая модель
llama-3-8b-bnb-4bit
Опубликована
25 апр 2024

Llama-3-LimaRP-Instruct-8B

Генерация текстаТекст → текст3 профессии

Дообученная Llama 3 на английском языке для генерации диалогов и ролевых ответов в формате Llama 3 Instruct.

23скачиваний за 30 дней1лайквеса обновлены7 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mpasila/Llama-3-LimaRP-Instruct-8B — дообученная разговорная модель на архитектуре Llama 3, разработанная mpasila для генерации текста в формате инструкций Llama 3. Она предназначена для диалогов и ролевых сценариев на основе изменённого набора LimaRP-augmented. Модель содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов; в карточке указана поддержка английского языка.

Модель создана на базе unsloth/llama-3-8b-bnb-4bit: LoRA обучали в 4-битном режиме в течение одной эпохи на контексте 8k, а опубликованный вариант описан как слияние производной LoRA-модели. Формат подсказок Llama 3 Instruct упрощает совместное использование с моделями, применяющими тот же формат. В README отмечена возможная проблема шаблона диалога: добавленные Unsloth роли «gpt» и «user» иногда обрабатываются некорректно.

Модель предназначена для генерации ответов и ролевых диалогов; она не описана как универсальная модель для всех аудиторий. Репозиторий использует safetensors, лицензия — Llama 3 Community License.

Сценарии применения

  • ведение ролевых диалогов на английском языке
  • генерация ответов в формате Llama 3 Instruct
  • создание художественных диалогов по подсказке
  • продолжение разговорного текста

Ограничения

В README отмечена возможная ошибка форматирования: роли «gpt» и «user» в шаблоне иногда обрабатываются некорректно. Модель обучалась на изменённом наборе LimaRP в течение одной эпохи; качество за пределами разговорных и ролевых сценариев не описано.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This was made using the Llama 3 Instruct prompt formatting so that it should be easier to be merged with other models using that format.

This is a merge of mpasila/Llama-3-LimaRP-Instruct-LoRA-8B.

LoRA trained in 4-bit with 8k context using meta-llama/Meta-Llama-3-8B as the base model for 1 epoch.

Dataset used is a modified version of grimulkan/LimaRP-augmented.

Prompt format: Llama 3 Instruct

There might be a slight issue with the prompt formatting since Unsloth decided to leave "gpt" and "user" to the prompts which seem to not be handled correctly all the time.

Uploaded model

  • Developed by: mpasila
  • License: Llama 3 Community License
  • Finetuned from model : unsloth/llama-3-8b-bnb-4bit

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
d5f248f

0 моделей