/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
15 сен 2024

IceDrinkNameNotFoundRP-7b-Model_Stock

Генерация текстаТекст → текст3 профессии

Слитая модель Mistral на 7,1 млрд параметров для диалоговой генерации текста с контекстом до 32 768 токенов.

28скачиваний за 30 дней1лайквеса обновлены16 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2777

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,5026

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,513

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3064

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,0604

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4372

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

IceDrinkNameNotFoundRP-7b-Model_Stock — языковая модель на архитектуре Mistral, опубликованная icefog72. Это слияние нескольких предварительно обученных моделей методом Model Stock с помощью mergekit; в качестве базовой использована icefog72/IceTea21EnergyDrinkRPV13-DPOv3, также включены icefog72/IceDrinkNameGoesHereRP-7b-Model_Stock и icefog72/IceSakeV12-DPOv2. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст в диалоговом формате; заявленная длина контекста — 32 768 токенов.

Модель предназначена для генерации ответов и ведения диалога. В карточке приведены результаты Open LLM Leaderboard, включая среднее значение 21,32 и результат IFEval 51,30; эти показатели дают ограниченное представление о качестве и не гарантируют результаты в конкретных сценариях. По тегам модели она рассчитана на контент для взрослой аудитории. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Сценарии применения

  • генерация диалоговых ответов
  • ведение ролевых текстовых диалогов
  • создание продолжений текста
  • ответы на инструкции в формате Alpaca

Ограничения

Модель помечена как не подходящая для всех аудиторий. Лицензия CC BY-NC 4.0 запрещает коммерческое использование; результаты бенчмарков не гарантируют качество в прикладных задачах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

IceDrinkNameNotFoundRP-7b-Model_Stock

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the Model Stock merge method using icefog72\IceTea21EnergyDrinkRPV13-DPOv3 as a base.

Models Merged

The following models were included in the merge:

  • icefog72\IceDrinkNameGoesHereRP-7b-Model_Stock
  • icefog72\IceSakeV12-DPOv2

Configuration

The following YAML configuration was used to produce this model:

models:
- model: icefog72\IceTea21EnergyDrinkRPV13-DPOv3
- model: icefog72\IceDrinkNameGoesHereRP-7b-Model_Stock
- model: icefog72\IceSakeV12-DPOv2
merge_method: model_stock
base_model: icefog72\IceTea21EnergyDrinkRPV13-DPOv3
dtype: bfloat16

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.21.32
IFEval (0-Shot)51.30
BBH (3-Shot)30.67
MATH Lvl 5 (4-Shot)5.66
GPQA (0-shot)3.69
MuSR (0-shot)13.65
MMLU-PRO (5-shot)22.94

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
d04c354

0 моделей