/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
10 янв 2024

jaskier-7b-dpo

Генерация текстаТекст → текст3 профессии

Англоязычная чат-модель на базе Mistral 7B, дообученная методом DPO для генерации диалоговых ответов.

79скачиваний за 30 дней0лайковвеса обновлены10 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Jaskier 7b DPO — разговорная языковая модель компании bards.ai, созданная на базе mindy-labs/mindy-7b-v2, производной от Mistral 7B. Модель дообучена методом Direct Preference Optimization на наборе Intel/orca_dpo_pairs и предназначена для генерации ответов в диалоге на английском языке.

Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Карточка приводит пример ответа в пиратском стиле. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Разработчик отмечает, что модель находится в работе и может быть не готова к производственному использованию.

Сценарии применения

  • генерация ответов в англоязычном чат-боте
  • создание разговорных ответов в заданном стиле
  • разработка прототипа диалогового ассистента

Ограничения

Разработчик указывает, что модель находится в разработке и может быть не готова к производственному применению. В карточке нет сведений о качестве на бенчмарках или дополнительных проверках.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Jaskier 7b DPO

This is work-in-progress model, may not be ready for production use

Model based on mindy-labs/mindy-7b-v2 (downstream version of Mistral7B) finetuned using Direct Preference Optimization on Intel/orca_dpo_pairs.

How to use

You can use this model directly with a pipeline for sentiment-analysis:

from transformers import pipeline

messages = [
    {
      "role": "system",
      "content": "You are a friendly chatbot who always responds in the style of a pirate."
    },
    {
      "role": "user",
      "content": "What is the capital city of France?"
    }
]

pipe = pipeline("conversational", "bardsai/jaskier-7b-dpo")
print(pipe(messages))

Output

assistant: In me hearties, th' capital city o' France be called Paris! A grand an' beautiful port full o' culture an' history. Yar, it be a fine place to visit an' swashbuckle abou'

Changelog

  • 2023-01-10: Initial release

About bards.ai

At bards.ai, we focus on providing machine learning expertise and skills to our partners, particularly in the areas of nlp, machine vision and time series analysis. Our team is located in Wroclaw, Poland. Please visit our website for more information: bards.ai

Let us know if you use our model :). Also, if you need any help, feel free to contact us at info@bards.ai

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
ddc14e2

0 моделей