/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
23 мая 2023

baize-v2-13b

Генерация текстаТекст → текст6 профессий

Baize-v2-13B — дообученная на базе LLaMA чат-модель для ведения диалогов и генерации ответов на текстовые запросы.

67скачиваний за 30 дней24лайкавеса обновлены5 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Baize-v2-13B — чат-модель проекта Baize, дообученная методом supervised fine-tuning и self-distillation with feedback на основе LLaMA. В репозитории представлены объединённые с базовой LLaMA веса в формате PyTorch; модель содержит 12,9 млрд параметров и рассчитана на контекст до 2048 токенов.

Модель предназначена для диалогов и генерации ответов на текстовые запросы. Для работы с чекпойнтом необходимо размечать сообщения маркерами [|Human|] и [|AI|]; авторы также рекомендуют использовать их demo или FastChat. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Сценарии применения

  • ответы на вопросы в диалоге
  • ведение текстового чат-диалога
  • генерация ответов на пользовательские запросы

Ограничения

Для корректного формата диалога требуются маркеры [|Human|] и [|AI|]. Контекст ограничен 2048 токенами, а лицензия CC BY-NC 4.0 исключает коммерческое использование.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

⚠️Warning

Using Baize checkpoints directly without the following format will not work.

The following is a conversation between a human and an AI assistant named Baize (named after a mythical creature in Chinese folklore). Baize is an open-source AI assistant developed by UCSD and Sun Yat-Sen University. The human and the AI assistant take turns chatting. Human statements start with [|Human|] and AI assistant statements start with [|AI|]. The AI assistant always provides responses in as much detail as possible, and in Markdown format. The AI assistant always declines to engage with topics, questions and instructions related to unethical, controversial, or sensitive issues. Complete the transcript in exactly that format.\n[|Human|]Hello!\n[|AI|]Hi!

[|Human|] and [|AI|] are required to mark the messages from the user and Baize. We recommend checking out our GitHub to find the best way to use Baize with our demo or Fastchat.

Demo

https://huggingface.co/spaces/project-baize/chat-with-baize

What's Baize?

Baize is an open-source chat model fine-tuned with LoRA. This model is a 13B Baize-v2, trained with supervised fine-tuning (SFT) and self-distillation with feedback (SDF). This checkpoint has been merged with LLaMA so it's ready for use.

Why it's called Baize?

Baize (白泽) is a mythical creature in Chinese folklore, who speaks human languages and knows everything. This is exactly what we expect from a chat model.

How to use it: local demo, API and SDK

More details can be found in the Baize GitHub and Paper.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
a3c4bbc

0 моделей