/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
23 апр 2024

Llama-3-LewdPlay-8B

Генерация текстаТекст → текст3 профессии

Дообученная на ролевых диалогах модель Llama 3 для текстового общения с персонажами, включая сценарии с откровенным содержанием.

42скачиваний за 30 дней15лайковвеса обновлены26 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Undi95 разработал LewdPlay Llama3 — дообученную разговорную модель семейства Llama 3 с плотной архитектурой и примерно 7,5 млрд параметров. Модель основана на meta-llama/Meta-Llama-3-8B-Instruct и обучена на наборах данных для ролевого общения, включая материалы с откровенным содержанием. Она принимает текстовые запросы и генерирует текст; заявленная длина контекста — 8192 токена.

Модель предназначена для ролевых диалогов с персонажами; автор отмечает, что результат лучше с подробно составленной карточкой персонажа, примерами реплик и памятью. Доступны веса fp16 в формате PyTorch. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Сценарии применения

  • ролевые диалоги с персонажами
  • генерация реплик для чат-персонажа
  • интерактивные текстовые ролевые сценарии

Ограничения

Для качественного ролевого общения автор рекомендует использовать хорошо проработанную карточку персонажа, примеры сообщений и память. Коммерческое использование запрещено лицензией CC-BY-NC-4.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LewdPlay-8B

Description

This repo contains fp16 files of LewdPlay Llama3, a finetuned model on multiple RP datasets based on meta-llama/Meta-Llama-3-8B-Instruct.

Dataset used

  • Undi95/toxic-dpo-v0.1
  • NobodyExistsOnTheInternet/ToxicQAFinal
  • Aesir [2] & [3 - SFW / 3 - NSFW]
  • cgato/SlimOrcaDedupCleaned (reduced)
  • Undi95/Capybara-ShareGPT (reduced)
  • Airobors (reduced)
  • Pippa (cleaned/reduced)
  • Bluemoon (cleaned/reduced)
  • LimaRP (8k ctx)

Prompt template: Llama3

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

{system_prompt}<|eot_id|><|start_header_id|>user<|end_header_id|>

{input}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

{output}<|eot_id|>

SillyTavern files of Llama3 prompt format (if you still don't have them) : Context - Instruct

Usage

Work best with character card well written, with some exemple message, memory, etc...

Support

If you want to support me, you can here.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
18854f9

0 моделей