/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Архитектура
mistral · dense
Базовая модель
Not-WizardLM-2-7B
Библиотека
transformers
Опубликована
16 апр 2024

mergekit-ties-vjlpsxw

Генерация текстаТекст → текст5 профессий

Слитая методом TIES модель Mistral с 7,1 млрд параметров для генерации текста и диалоговых ответов.

18скачиваний за 30 дней1лайквеса обновлены16 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mergekit-community/mergekit-ties-vjlpsxw — языковая модель на архитектуре Mistral, созданная сообществом методом TIES с помощью mergekit. В качестве базовой использована amazingvince/Not-WizardLM-2-7B, а в слияние также вошли MaziyarPanahi/Calme-7B-Instruct-v0.9 и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов.

Модель предназначена для генерации текста и диалоговых ответов. Её можно использовать для написания и продолжения текстов, а также для общения с инструктивной языковой моделью. Метаданные указывают задачу text-generation; подтверждённых специализированных предметных областей или языков в предоставленных сведениях нет.

Модель создана путём слияния нескольких чекпойнтов, а не обучена с нуля. В карточке не указаны лицензия и отдельные оценки качества, поэтому условия использования следует сверить с лицензиями исходных моделей.

Сценарии применения

  • генерация текста по запросу
  • продолжение черновиков и историй
  • ответы на инструкции в диалоге

Ограничения

Языки и результаты оценки качества в предоставленных сведениях не описаны. Лицензия самой модели не указана; условия использования следует сверить с лицензиями исходных моделей.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the TIES merge method using amazingvince/Not-WizardLM-2-7B as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  - model: MaziyarPanahi/Calme-7B-Instruct-v0.9
    parameters:
      density: 0.56
      weight: 0.5
  - model: cognitivecomputations/dolphin-2.8-mistral-7b-v02
    parameters:
      density: 0.56
      weight: 0.5

merge_method: ties
base_model: amazingvince/Not-WizardLM-2-7B
parameters:
  normalize: false
  int8_mask: true
dtype: float16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
5e1ed89

0 моделей