/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
19,8 млрд
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
27 сен 2023

Emerhyst-20B

Генерация текстаТекст → текст3 профессии

Слияние моделей семейства Llama для генерации текста по инструкциям и ролевых диалогов, включая контент для взрослых.

100скачиваний за 30 дней48лайковвеса обновлены17 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Emerhyst-20B — текстовая генеративная модель на архитектуре Llama, представленная в формате safetensors с весами FP16. По README, это слияние Amethyst 13B и Emerald 13B; при создании также использовались PygmalionAI/pygmalion-2-13b, Xwin-LM/Xwin-LM-13B-V0.1, The-Face-Of-Goonery/Huginn-13b-FP16 и адаптеры zattio770/120-Days-of-LORA-v2-13B и lemonilia/LimaRP-Llama2-13B-v3-EXPERIMENT. В метаданных указано 19,8 млрд параметров и контекст до 4096 токенов.

Модель предназначена для генерации текста по инструкциям и ролевых диалогов; README приводит шаблон Alpaca и рекомендации по использованию LimaRP v3 в SillyTavern. Карточка содержит результаты Open LLM Leaderboard: среднее 51,85, ARC 61,69 и HellaSwag 84,98. Метаданные помечают модель как NSFW, поэтому она ориентирована в том числе на контент для взрослых. Лицензия CC BY-NC 4.0 требует указания авторства и не разрешает коммерческое использование.

Сценарии применения

  • генерация ответов на инструкции
  • ролевые диалоги в SillyTavern
  • создание художественных текстов
  • генерация контента для взрослых

Ограничения

Контекст ограничен 4096 токенами. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Merge of Amethyst 13B and Emerald 13B.

In addition, LimaRP v3 was used, is it recommanded to read the documentation.

Description

This repo contains fp16 files of Emerhyst-20B.

Models and loras used

  • PygmalionAI/pygmalion-2-13b
  • Xwin-LM/Xwin-LM-13B-V0.1
  • The-Face-Of-Goonery/Huginn-13b-FP16
  • zattio770/120-Days-of-LORA-v2-13B
  • lemonilia/LimaRP-Llama2-13B-v3-EXPERIMENT

Prompt template: Alpaca

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

LimaRP v3 usage and suggested settings

image/png

You can follow these instruction format settings in SillyTavern. Replace tiny with your desired response length:

image/png

Special thanks to Sushi.

If you want to support me, you can here.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.51.85
ARC (25-shot)61.69
HellaSwag (10-shot)84.98
MMLU (5-shot)56.98
TruthfulQA (0-shot)54.16
Winogrande (5-shot)76.09
GSM8K (5-shot)8.49
DROP (3-shot)20.56

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
cdae7e7

0 моделей