/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
Mahou-1.3-M1-mistral-7B
Библиотека
transformers
Опубликована
4 июл 2024

Mahou-1.3c-mistral-7B

Генерация текстаТекст → текст3 профессии

Разговорная модель на базе Mistral для коротких непринуждённых диалогов и ролевого общения.

24скачиваний за 30 дней1лайквеса обновлены4 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Mahou-1.3c-mistral-7B — разговорная языковая модель от flammenai, дообученная на базе nbeerbower/Mahou-1.3-M1-mistral-7B. Модель семейства Mistral с архитектурой MistralForCausalLM содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Она принимает текст и генерирует текст; для диалогов обучена использовать формат ChatML.

Модель предназначена для коротких сообщений в непринуждённом общении и ролевых сценариях; карточка также указывает на разговорное взаимодействие. Для ролевых ответов описан формат, где речь пишется без кавычек, а действия заключаются в звёздочки. Модель дообучалась один эпохой на наборах FlameMix-DPO-v1 и MahouMix-v1.

Лицензия — Apache-2.0. Карточка не сообщает о специализированной предметной области или ограничениях качества; назначение модели ориентировано на короткие диалоги и ролевое общение.

Сценарии применения

  • непринуждённая переписка с чат-ботом
  • генерация коротких ответов в диалоге
  • ролевая переписка с персонажем

Ограничения

Модель ориентирована на короткие сообщения и ролевое общение; карточка не приводит оценок качества или подробного перечня ограничений.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Mahou-1.3c-mistral-7B

Mahou is designed to provide short messages in a conversational context. It is capable of casual conversation and character roleplay.

Chat Format

This model has been trained to use ChatML format. Note the additional tokens in tokenizer_config.json.

<|im_start|>system
{{system}}<|im_end|>
<|im_start|>{{char}}
{{message}}<|im_end|>
<|im_start|>{{user}}
{{message}}<|im_end|>

Roleplay Format

  • Speech without quotes.
  • Actions in *asterisks*
*leans against wall cooly* so like, i just casted a super strong spell at magician academy today, not gonna lie, felt badass.

SillyTavern Settings

  1. Use ChatML for the Context Template.
  2. Enable Instruct Mode.
  3. Use the Mahou preset.
  4. Recommended Additonal stopping strings: ["\n", "<|", "</"]

Method

Finetuned for 1 epoch using an A100 on Google Colab.

Fine-tune Llama 3 with ORPO - Maxime Labonne

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
02b2b16

0 моделей