/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
mistral-7b-instruct-v0.2-bnb-4bit
Опубликована
15 фев 2024

Wistral-7B-Instruct-v0.3

Генерация текстаТекст → текст7 профессий

Дообученная на базе Mistral-7B-Instruct-v0.2 модель для диалоговой генерации текста.

29скачиваний за 30 дней1лайквеса обновлены4 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Wistral-7B-Instruct-v0.3 — языковая модель BarraHome для диалоговой генерации текста. Она основана на Mistral-7B-Instruct-v0.2, дообучена с использованием Unsloth и библиотеки TRL и имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров.

Модель предназначена для ответов на сообщения и генерации текста в чате. Её контекст составляет 32 768 токенов. В карточке приведены результаты оценок на AI2 Reasoning Challenge и HellaSwag; они дают ориентир по отдельным тестам, но не гарантируют качество в других задачах. Для работы с моделью нужны совместимые инструменты и аппаратные ресурсы; метаданные указывают формат safetensors.

Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию по предметной области или отдельные ограничения применения.

Сценарии применения

  • генерация ответов в чате
  • составление текстовых ответов на запросы
  • поддержка диалогового помощника

Ограничения

Результаты приведённых тестов не позволяют судить о качестве во всех сценариях. Карточка не описывает специализированные возможности и отдельные ограничения модели.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uploaded model

  • Developed by: BarraHome
  • License: apache-2.0
  • Finetuned from model : unsloth/mistral-7b-instruct-v0.2-bnb-4bit

This mistral model was trained 2x faster with Unsloth and Huggingface's TRL library.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.65.23
AI2 Reasoning Challenge (25-Shot)62.20
HellaSwag (10-Shot)84.81
MMLU (5-Shot)60.34
TruthfulQA (0-shot)67.67
Winogrande (5-shot)76.80
GSM8k (5-shot)39.58

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
ac95abc

0 моделей