/ Модель

Характеристики

Контекст
1 024 000 токенов
Параметры
12,1 млрд
Размер весов
24,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
mini-magnum-12b-v1.1
Опубликована
11 авг 2024

Mini-Magnum-Unboxed-12B

Генерация текстаТекст → текст3 профессии

Дообученная 12,1-миллиардная модель Mistral для генерации ответов, коротких переписок и ролевых диалогов с форматом инструкций Alpaca.

16скачиваний за 30 дней5лайковвеса обновлены11 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Mini-Magnum-Unboxed-12B — дообученная диалоговая модель на архитектуре Mistral с 12,1 млрд параметров, опубликованная concedo. Она предназначена для генерации текста, общения в формате чат-бота и ролевых диалогов. Дообучение изменило формат инструкций на Alpaca и добавило небольшой набор коротких переписок; автор также сообщает о настройке поведения для более прямого выполнения запросов.

Модель принимает инструкции в шаблоне Alpaca и выдаёт текстовые ответы. В метаданных указан английский язык и контекст до 1 024 000 токенов. Основана на intervitens/mini-magnum-12b-v1.1; в README также указаны заслуги авторов исходной модели и Mistral Nemo. Лицензия — Apache-2.0. README не приводит сравнительных оценок качества; заявленное поведение с ослабленными ограничениями может приводить к выдаче нежелательного или небезопасного контента.

Сценарии применения

  • генерация ответов на инструкции в формате Alpaca
  • общение с чат-ботом в коротких переписках
  • ведение ролевых диалогов с персонажем
  • создание текстовых ответов на английском языке

Ограничения

Автор не приводит сравнительных оценок качества. Настройка на более прямое выполнение запросов может приводить к нежелательным или небезопасным ответам.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Mini-Magnum-Unboxed-12B

This is a low-LR finetune done on top of the https://huggingface.co/intervitens/mini-magnum-12b-v1.1 model to correct some minor personal annoyances towards what would otherwise be an excellent model.

  • Instruct prompt format changed to Alpaca - Honestly, I don't know why more models don't use it. If you are an Alpaca format lover like me, this should help.
  • Instruct Decensoring Applied - You should not need a jailbreak for a model to obey the user. The model should always do what you tell it to. No need for weird "Sure, I will" or kitten-murdering-threat tricks.
  • Short Conversation Tuning - For people who like to also be able to chat (think chatbot/DM) with a character rather than just roleplay with it. This adds a small dataset of short chat-message conversations.

You can obtain the GGUF quantization of this model here: https://huggingface.co/concedo/Mini-Magnum-Unboxed-12B-GGUF

Prompt template: Alpaca

### Instruction:
{prompt}

### Response:

Please leave any feedback or issues that you may have. All credits go to the tuners of the original source mini-magnum-12b-v1.1 model as well as Mistral for the Mistral Nemo base model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
3889b4d

0 моделей