/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
mistral-7b-instruct-v0.2-bnb-4bit
Опубликована
15 фев 2024

Wistral-7B-Instruct-v0.4

Генерация текстаТекст → текст7 профессий

Дообученная англоязычная модель Mistral с 7,1 млрд параметров для диалогов и генерации текста.

21скачиваний за 30 дней0лайковвеса обновлены4 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Wistral-7B-Instruct-v0.4 — дообученная BarraHome версия Mistral-7B-Instruct-v0.2, созданная с помощью Unsloth и библиотеки TRL. Это плотная авторегрессионная модель с 7,1 млрд параметров для генерации текста в диалоговом формате; заявленная длина контекста — 32 768 токенов. В карточке приведены результаты оценки на задачах AI2 Reasoning Challenge и HellaSwag.

Модель подходит для диалоговых приложений и генерации ответов на текстовые запросы на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Сценарии применения

  • создание англоязычного чат-бота
  • генерация ответов на текстовые запросы
  • подготовка черновиков и продолжение текста

Ограничения

Результаты в README охватывают лишь отдельные тесты и не гарантируют качество в других сценариях. Поддержка языков, кроме английского, в предоставленных данных не подтверждена.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uploaded model

  • Developed by: BarraHome
  • License: apache-2.0
  • Finetuned from model : unsloth/mistral-7b-instruct-v0.2-bnb-4bit

This mistral model was trained 2x faster with Unsloth and Huggingface's TRL library.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.65.23
AI2 Reasoning Challenge (25-Shot)62.20
HellaSwag (10-Shot)84.81
MMLU (5-Shot)60.34
TruthfulQA (0-shot)67.67
Winogrande (5-shot)76.80
GSM8k (5-shot)39.58

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
6e066e2

0 моделей