/ Модель

Характеристики

Контекст
1 024 000 токенов
Параметры
12,1 млрд
Размер весов
24,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
Mistral-Nemo-Base-2407
Библиотека
transformers
Опубликована
22 июл 2024

mistral-doryV2-12b

Генерация текстаТекст → текст7 профессий

Инструкционная донастройка Mistral Nemo на 12,1 млрд параметров для диалоговой генерации текста на английском языке.

44скачиваний за 30 дней23лайкавеса обновлены22 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

BeaverAI/mistral-doryV2-12b — инструкционная донастройка базовой модели Mistral Nemo Base 2407 от BeaverAI. Модель предназначена для диалоговой генерации текста по инструкциям и использует шаблон запросов в стиле Alpaca с необязательным системным сообщением.

Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров. Метаданные указывают контекст до 1 024 000 токенов, поддержку английского языка и формат весов Safetensors. Модель не ориентирована на эротический ролевой контент; для этого автор рекомендует другую модель.

Распространяется по лицензии Apache 2.0. README не приводит результатов оценки качества или подробностей обучения, поэтому пригодность для конкретных задач следует проверять на собственных данных.

Сценарии применения

  • ответы на пользовательские инструкции
  • диалог с системным сообщением
  • генерация текстовых ответов в шаблоне Alpaca

Ограничения

Не предназначена специально для эротического ролевого контента. В README нет результатов оценивания качества, поэтому поведение на конкретных задачах следует проверять отдельно.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Dory 12b (v2)

(redone) redone instruct finetune of mistral nemo 12b's base. not (E)RP-focused, leave that to drummer.

image/gif

thanks to twisted again for the compute :3

Prompting

alpaca-like:

### System:
[Optional system prompt]

### Instruction:
[Query]

### Response:
[Response]</s>

### Instruction:
[...]

Training details

Rank 64 QDoRA, trained on the following data mix:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
ef1b582

0 моделей