/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Лицензия
CC BY-NC 4.0
Архитектура
mixtral · MoE
Опубликована
31 янв 2024

BondBurger-8x7B

Генерация текстаТекст → текст3 профессии

BondBurger-8x7B — слитая диалоговая модель Mixtral для генерации ответов и ролевого общения.

23скачиваний за 30 дней7лайковвеса обновлены31 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

BondBurger-8x7B — разговорная языковая модель семейства Mixtral, созданная Envoid путём последовательного слияния моделей. Сначала автор объединил ycros/BagelMIsteryTour-8x7B и Envoid/SensualNousInstructDARETIES-CATA-LimaRP-ZlossDT-8x7B методом SLERP в пропорции 50/50, затем смешал полученную модель с tenyx/TenyxChat-8x7B-v1 в той же пропорции. В метаданных указана архитектура MixtralForCausalLM с MoE и 7,1 млрд параметров; контекст — до 32 768 токенов.

Модель предназначена для диалоговой генерации текста и лучше отвечает на запросы в формате [INST] … [/INST]. Автор предупреждает, что модель может создавать контент для взрослых. В README также отмечены особенности токенизатора, унаследованные от Nous, и отсутствие тестирования в формате FP16 Hugging Face. Репозиторий содержит веса safetensors. Лицензия — CC BY-NC 4.0, допускающая использование только на некоммерческих условиях.

Сценарии применения

  • диалоговое общение с языковой моделью
  • генерация ответов в формате инструкций [INST]
  • ролевые диалоги и художественные сцены
  • эксперименты со слитыми моделями Mixtral

Ограничения

Автор предупреждает о возможности генерации контента для взрослых; также отмечены особенности токенизатора и отсутствие тестирования в FP16 формате Hugging Face. Лицензия CC BY-NC 4.0 ограничивает использование некоммерческими целями.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Warning:

As always this merge may produce adult content.

BondBurger-8x7B

BondBurger-8x7B takes ycros/BagelMIsteryTour-8x7B

and 50/50 SLERP merges it onto Envoid/SensualNousInstructDARETIES-CATA-LimaRP-ZlossDT-SLERP-8x7B

But that simply wouldn't be enough.

So I did an additional 50/50 SLERP merge of tenyx/TenyxChat-8x7B-v1 onto the resulting model from the first step.

After getting tired of typing in SensualNousInstructDARETIES-CATA-LimaRP-ZlossDT-SLERP-MagelMIsterySLERP-TenyxChat-SLERP every time I went to test something I decided to reset the naming stack to something more meaningful and descriptive.

This model has all the same wonderful tokenizer weirdness caused by the Nous DNA and has not been tested in FP-16 HF format.

It responds best to [INST] DO A THING [/INST] instruct format.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
d878f1e

0 моделей