/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
15 ноя 2023

MistralInstructLongish

Генерация текстаТекст → текст13 профессий

Дообученная 7,1-миллиардная модель Mistral для генерации текста и ответов на инструкции, в том числе длинные.

100скачиваний за 30 дней0лайковвеса обновлены20 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KnutJaegersberg/MistralInstructLongish — дообученная инструкция-модель семейства Mistral, созданная автором KnutJaegersberg. Модель обучалась около трёх эпох на объединении нескольких наборов инструкций, включая часть более длинных инструкций, и рассчитана на генерацию ответов в формате Alpaca с разделами Instruction, необязательным Input и Response.

Это плотная причинная языковая модель MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов. Она предназначена для следования инструкциям и генерации текста; в карточке приведены результаты оценки на Open LLM Leaderboard, включая среднее значение 48,99, ARC и HellaSwag. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Карточка не описывает языки обучения, поэтому языковую специализацию нельзя установить. Результаты бенчмарков не гарантируют качество на конкретных пользовательских задачах; данных о дополнительных ограничениях или проверках безопасности нет.

Сценарии применения

  • ответы на пользовательские инструкции
  • генерация текста по заданию и дополнительному контексту
  • обработка длинных инструкций в формате Alpaca

Ограничения

Карточка не сообщает языки обучения и не приводит подробной оценки качества на прикладных сценариях; опубликованные результаты бенчмарков не гарантируют качество конкретных ответов. Данных о проверках безопасности модели нет.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

It was trained for like 3 epochs on a merger dataset of several instruction datasets, with partially longer instructions.

Alpaca Prompt Format:

### Instruction:
blablabla
### Input: 
(optional)
### Response:

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.48.99
ARC (25-shot)60.75
HellaSwag (10-shot)81.86
MMLU (5-shot)60.49
TruthfulQA (0-shot)40.55
Winogrande (5-shot)76.56
GSM8K (5-shot)1.52
DROP (3-shot)21.22

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
4dba777

0 моделей