/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
29 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
23 мар 2024

Mistral-7B-v0.2

Генерация текстаТекст → текст9 профессий

Предварительная конвертированная сборка Mistral-7B-v0.2 для диалоговой генерации текста.

81скачиваний за 30 дней1лайквеса обновлены24 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RESMPDEV/Mistral-7B-v0.2 — конвертированная сборка весов Mistral AI на основе Mistral-7B-v0.2. Репозиторий содержит плотную авторегрессионную модель MistralForCausalLM примерно с 7,1 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате PyTorch и safetensors. Модель предназначена для генерации текста и диалогового использования.

Автор карточки сообщает, что веса FP16 были напрямую преобразованы из монолитного файла pickle в safetensors с построением индекса. В README отмечены неоптимальность конвертации и возможное смешение файлов Mistral-7B-v0.1 и v0.2; эту сборку автор описывает как предварительную и рекомендует дождаться официального релиза весов FP16 от Mistral AI. Лицензия — Apache-2.0.

Сценарии применения

  • генерация ответов в текстовом чате
  • создание черновиков и продолжение текста
  • развёртывание диалоговой модели с открытыми весами
  • эксперименты с моделями семейства Mistral

Ограничения

README предупреждает, что преобразование выполнено неоптимально и файлы Mistral-7B-v0.1 и v0.2 могли быть смешаны; автор считает сборку предварительной и не рекомендует её вместо ожидаемой официальной FP16-версии.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a hacked together version of the new Mistral-7b-v0.2 FP16 weights directly downloaded from their CDN.

The conversion was done by directly converting the monolithic pickle file to safetensors and building the index which is suboptimal.

Credit to Mistral AI and the amazing team over there and Cognitive Computations especially Eric Hartford for tutelage and helping navigate the LLM landscape.

As this is a mix of Mistral 7b v0.1 and Mistral 7b v0.2 files it is to be considered a pre-alpha.

This conversion is suboptimal and I would use https://huggingface.co/alpindale/Mistral-7B-v0.2-hf for the FP-16 weights until MistralAI does their offical release.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
420a555

0 моделей