Характеристики

Контекст: 4 096 токенов
Параметры: 6,6 млрд
Размер весов: 13,5 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Опубликована: 6 сен 2023

Ссылки

blossom-v2-llama2-7b

Генерация текстаТекст → текст6 профессий

Диалоговая модель на основе Llama-2-7b, дообученная для ответов на инструкции, многоходового общения и математических диалогов.

72скачиваний за 30 дней1лайквеса обновлены20 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

BLOSSOM-v2-llama2-7b — диалоговая языковая модель, разработанная командой Blossom на основе предобученной Llama-2-7b. Модель содержит 6,6 млрд параметров, использует архитектуру Llama и рассчитана на контекст до 4096 токенов.

Модель дообучена в два этапа на смесях инструкционных и диалоговых данных Wizard, Dolphin и Blossom, включая набор для математических диалогов. Она предназначена для ответов на вопросы и ведения одно- и многоходового диалога; взаимодействие оформляется как продолжение текста с шаблоном ролей Human и Bot. Метаданные указывают китайский и английский языки. В README отмечено, что у базовой Llama-2-7b ограничены знания китайского языка, и для китайских сценариев рекомендуется вариант на Baichuan.

Модель распространяется в формате PyTorch по лицензии Apache-2.0.

Сценарии применения

ответы на пользовательские вопросы в чате
ведение многоходового диалога
выполнение инструкций на китайском и английском языках
решение математических задач в диалоге

Ограничения

В README указано, что базовая Llama-2-7b имеет ограниченные знания китайского языка; для сценариев на китайском рекомендуется вариант BLOSSOM на Baichuan.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

BLOSSOM-v2-llama2-7b

💻Github • 🚀Blossom Chat Demo

介绍

Blossom是一个对话式语言模型，基于Llama-2-7b预训练模型，在Blossom、Wizard、Dolphin混合数据集上进行指令精调得来。

训练分为两阶段，第一阶段使用120K Wizard、180K Dolphin单轮指令数据集，训练1个epoch；第二阶段使用60K Blossom chat、2K Blossom math多轮对话数据集，训练3个epoch。

注意：Llama-2-7b预训练模型的中文知识较为欠缺，因此对于中文场景，更推荐使用blossom-v2-baichuan-7b

推理

推理采用对话续写的形式。

单轮对话

A chat between a human and an artificial intelligence bot. The bot gives helpful, detailed, and polite answers to the human's questions.
|Human|: 你好
|Bot|:

多轮对话

A chat between a human and an artificial intelligence bot. The bot gives helpful, detailed, and polite answers to the human's questions.
|Human|: 你好
|Bot|: 你好，有什么我能帮助你的？</s>
|Human|: 介绍下中国的首都吧
|Bot|:

注意：在历史对话的Bot输出结尾，拼接一个</s>

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 795f033