/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
21 мар 2024

UltraMerge-7B

Генерация текстаТекст → текст6 профессий

Экспериментальная 7,1-миллиардная модель Mistral, дообученная методом DPO для диалоговой генерации текста и следования инструкциям.

67скачиваний за 30 дней12лайковвеса обновлены7 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

UltraMerge-7B — экспериментальная модель на 7,1 млрд параметров, разработанная mlabonne. Это плотная авторегрессионная модель семейства Mistral для генерации текста. Модель получена DPO-дообучением automerger/YamShadow-7B на наборах предпочтений truthy-dpo-v0.1, distilabel-intel-orca-dpo-pairs, chatml-OpenHermes2.5-dpo-binarized-alpha и ultrafeedback-binarized-preferences-cleaned.

Модель предназначена для диалоговой генерации и следования инструкциям. Её родной контекст составляет 32 768 токенов. Автор не определил рекомендуемый шаблон чата и предполагает Mistral-Instruct или ChatML, поэтому для корректного использования потребуется проверить формат промптов. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Сценарии применения

  • ответы на инструкции в формате чата
  • генерация диалоговых ответов
  • сравнение качества вариантов шаблона Mistral-Instruct и ChatML

Ограничения

Автор не указывает оптимальный шаблон чата; перед использованием следует проверить Mistral-Instruct и ChatML. Лицензия запрещает коммерческое применение.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

UltraMerge-7B

This model is an experimental DPO fine-tune of automerger/YamShadow-7B on the following datasets:

  • mlabonne/truthy-dpo-v0.1
  • mlabonne/distilabel-intel-orca-dpo-pairs
  • mlabonne/chatml-OpenHermes2.5-dpo-binarized-alpha
  • mlabonne/ultrafeedback-binarized-preferences-cleaned

I have no idea about what's the best chat template. Probably Mistral-Instruct or ChatML.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
8fe201f

0 моделей