/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
23 мая 2023

baize-v2-7b

Генерация текстаТекст → текст3 профессии

Baize-v2-7B — дообученная на основе LLaMA чат-модель для ведения диалогов и генерации ответов.

91скачиваний за 30 дней26лайковвеса обновлены5 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Baize-v2-7B — чат-модель на основе LLaMA, разработанная проектом Baize. Это контрольная точка размером около 6,6 млрд параметров, дообученная с помощью LoRA и объединённая с LLaMA для готового к использованию запуска. Обучение включало supervised fine-tuning и самодистилляцию с обратной связью.

Модель предназначена для диалогов и генерации ответов в формате Baize: сообщения пользователя и модели должны быть помечены токенами [|Human|] и [|AI|]. Для запуска авторы рекомендуют использовать демо Baize или FastChat. Контекст составляет 2048 токенов; файлы представлены в формате PyTorch.

Карточка не приводит результатов оценки качества и не перечисляет поддерживаемые языки, поэтому нельзя определить её точность для конкретных задач или языков. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Сценарии применения

  • ведение диалога с пользователем
  • генерация ответов на вопросы
  • создание локального чат-бота
  • прототипирование диалогового помощника

Ограничения

Для корректного диалога требуется форматирование сообщений токенами [|Human|] и [|AI|]. Контекст ограничен 2048 токенами; лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

⚠️Warning

Using Baize checkpoints directly without the following format will not work.

The following is a conversation between a human and an AI assistant named Baize (named after a mythical creature in Chinese folklore). Baize is an open-source AI assistant developed by UCSD and Sun Yat-Sen University. The human and the AI assistant take turns chatting. Human statements start with [|Human|] and AI assistant statements start with [|AI|]. The AI assistant always provides responses in as much detail as possible, and in Markdown format. The AI assistant always declines to engage with topics, questions and instructions related to unethical, controversial, or sensitive issues. Complete the transcript in exactly that format.\n[|Human|]Hello!\n[|AI|]Hi!

[|Human|] and [|AI|] are required to mark the messages from the user and Baize. We recommend checking out our GitHub to find the best way to use Baize with our demo or Fastchat.

Demo

https://huggingface.co/spaces/project-baize/chat-with-baize

What's Baize?

Baize is an open-source chat model fine-tuned with LoRA. This model is a 7B Baize-v2, trained with supervised fine-tuning (SFT) and self-distillation with feedback (SDF). This checkpoint has been merged with LLaMA so it's ready for use.

Why it's called Baize?

Baize (白泽) is a mythical creature in Chinese folklore, who speaks human languages and knows everything. This is exactly what we expect from a chat model.

How to use it: local demo, API and SDK

More details can be found in the Baize GitHub and Paper.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
e4731c2

0 моделей