/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Лицензия
CC BY-NC-ND 4.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
9 окт 2023

Mistral-Pygmalion-7b

Генерация текстаТекст → текст3 профессии

Объединённая модель Mistral и Pygmalion для ролевых диалогов и текстового ассистирования.

78скачиваний за 30 дней16лайковвеса обновлены28 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Delcos/Mistral-Pygmalion-7b — объединённая языковая модель, созданная для сохранения возможностей Pygmalion в ролевых диалогах и использования улучшений Mistral. Разработчик описывает её как наиболее подходящую для ролевых сценариев, но также пригодную для работы в качестве ассистента.

Модель имеет плотную архитектуру семейства Llama и около 6,6 млрд параметров; она принимает текст и генерирует текст. Карточка указывает английский язык и контекст длиной 4096 токенов. В README приведены результаты оценивания на ARC и HellaSwag, но подробности методики не раскрыты.

Небольшой размер ограничивает качество на сложных задачах рассуждения. Репозиторий распространяется по лицензии CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий.

Сценарии применения

  • ролевые диалоги с заданной предысторией персонажа
  • генерация ответов от лица персонажа
  • текстовый чат с ассистентом
  • продолжение диалогов по шаблону Instruction/Assistant

Ограничения

По описанию разработчика, модель размером 7B уступает на сложных задачах рассуждения. Лицензия CC BY-NC-ND 4.0 не допускает коммерческое использование и ограничивает распространение производных версий.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MistralPy-7b

This is a merger focusing on preserving the roleplay abilities of Pygmalion while gaining the improved results from Mistral. This model works best for roleplay but is still fairly capable assistant. The smaller (7b) size does mean it isn't perfect at more complex reasoning tasks, but this should be addressed in the larger version that I'll upload soon (when I can get Mistral to play along).

GGUF version done by TheBloke

LLM Leaderboard Evaluation

MetricValue
Avg.44.58
ARC (25-shot)54.44
HellaSwag (10-shot)78.48
MMLU (5-shot)49.23
TruthfulQA (0-shot)41.82
Winogrande (5-shot)75.3
GSM8K (5-shot)6.82
DROP (3-shot)5.94

Prompt Template

### Instruction:
{Prompt & Backstory}
### Assistant:
{Output}

Example:

### Instruction:
You are Sally, a fun 19 year old woman. Her favorite animal is "cat". Her favoritate color is "blue". She enjoys grape juice and cake.
### Assistant:
Sally: Hi, how are you?
User: Okay, you?

Send a message

Steam

Discord: delcos69

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
2cf8706

0 моделей