/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
multi_verse_model
Библиотека
transformers
Опубликована
12 апр 2024

Pulsar_7B

Генерация текстаТекст → текст3 профессии

Pulsar_7B — экспериментальная англоязычная чат-модель Mistral для ролевых диалогов, генерации текста и следования карточкам персонажей.

25скачиваний за 30 дней3лайкавеса обновлены18 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Pulsar_7B — экспериментальная англоязычная чат-модель на архитектуре Mistral, разработанная как более податливая версия MTSAIR/multi_verse_model. Она содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; модель дообучена на наборах для ролевого общения, понимания намерений, физического рассуждения, математики и предпочтений, включая датасет с NSFW-ролевыми диалогами.

Модель предназначена для генерации диалогов и ролевых сценариев, следования карточке персонажа и заданному формату Markdown. В README отмечена чувствительность стиля ответа к первому сообщению карточки персонажа; также заявлена совместимость с форматами Alpaca и Mistral и шаблоном чата базовой модели.

Модель распространяется под лицензией Apache-2.0. Это экспериментальная настройка, и её качество может зависеть от формата промпта и карточки персонажа; результаты тестов в README не гарантируют качество в конкретных сценариях.

Сценарии применения

  • ведение ролевых диалогов с заданным персонажем
  • генерация ответов по карточке персонажа
  • создание диалогов в заданном формате Markdown
  • продолжение англоязычных разговорных сценариев

Ограничения

Модель экспериментальная; стиль генерации чувствителен к первому сообщению карточки персонажа и формату промпта. В обучающих данных присутствуют токсичные и NSFW-ролевые примеры.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

💫 Pulsar_7B

⚠️ This is an experimental model!

A more compliant, RP-oriented version of MTSAIR/multi_verse_model, fine-tuned on carefully selected datasets. It's smart, adept at following the desired markdown format and adhering to the provided character card. The first message of the character card significantly influences its writing style. Pulsar_7B pairs well with guidance from CFG Scale and works effectively with PLists + Ali:Chat character cards. Pulsar_7B was fine-tuned on the following datasets:

  • grimulkan/theory-of-mind
  • grimulkan/physical-reasoning
  • ResplendentAI/Luna_Alpaca
  • unalignment/toxic-dpo-v0.2
  • kira/math-dpo
  • athirdpath/DPO_Pairs-Roleplay-Alpaca-NSFW-v1-SHUFFLED

Quantizations

Thanks to mradermacher, static GGUF quants are available here.

Formatting/Preset

Pulsar_7B works well with Alpaca, it's not a picky model when it comes to formatting/preset. Mistral should be compatible too. The custom chat template from MTSAIR/multi_verse_model also performs well:

{% for message in messages %}{% if message['role'] == 'user' %}{{ '### Instruction:\n' + message['content'] + '\n### Response:\n' }}{% elif message['role'] == 'assistant' %}{{ message['content'] + eos_token}}{% elif message['role'] == 'system' %}{{ '### System:\n' + message['content'] + '\n' }}{% endif %}{% endfor %}

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.74.23
AI2 Reasoning Challenge (25-Shot)69.71
HellaSwag (10-Shot)86.99
MMLU (5-Shot)63.72
TruthfulQA (0-shot)69.28
Winogrande (5-shot)84.06
GSM8k (5-shot)71.65

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
bbd0acb

0 моделей