/ Модель
Каталог

Характеристики

Контекст
32 768 токенов
Параметры
22 млрд
Размер весов
44,5 ГБ
Лицензия
Своя лицензия
Архитектура
mistral · dense
Опубликована
26 сен 2024

Ссылки

Hugging Face

Mistral-Small-22B-ArliAI-RPMax-v1.1

ArliAI
Генерация текстаТекст → текст3 профессии

Дообученная 22-миллиардная модель Mistral для творческого письма и разнообразных ролевых диалогов.

72скачиваний за 30 дней57лайковвеса обновлены12 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Mistral-Small-22B-ArliAI-RPMax-v1.1 — дообученная модель ArliAI на основе mistralai/Mistral-Small-Instruct-2409. Она предназначена для творческого письма и ролевых диалогов: модель должна гибко отыгрывать разных персонажей и ситуации, поддерживая разнообразные и менее повторяющиеся ответы. Архитектура — плотная MistralForCausalLM с 22 млрд параметров; модель принимает текст и генерирует текст, длина контекста — 32 768 токенов. Карточка рекомендует формат Mistral Instruct и указывает наличие интерфейса для вызова инструментов.

Модель опубликована в формате safetensors; в карточке также перечислены варианты квантизации FP16, GPTQ Q4, GPTQ Q8 и GGUF. Лицензия базовой модели Mistral ограничивает использование личными целями. Модель ориентирована на ролевые и творческие сценарии, поэтому качество ответов в других задачах карточка не характеризует.

Сценарии применения

  • ролевые диалоги с разными персонажами
  • отыгрыш персонажей в заданных ситуациях
  • написание творческих историй
  • продолжение художественных сцен
  • генерация разнообразных ответов в ролевых сценариях

Ограничения

Карточка описывает специализацию модели на ролевых диалогах и творческом письме, но не приводит оценок качества для других задач. Лицензия базовой модели ограничивает использование личными целями.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Mistral-Small-22B-ArliAI-RPMax-v1.1

=====================================

RPMax Series Overview

| 2B | 3.8B | 8B | 9B | 12B | 20B | 22B | 70B |

RPMax is a series of models that are trained on a diverse set of curated creative writing and RP datasets with a focus on variety and deduplication. This model is designed to be highly creative and non-repetitive by making sure no two entries in the dataset have repeated characters or situations, which makes sure the model does not latch on to a certain personality and be capable of understanding and acting appropriately to any characters or situations.

Early tests by users mentioned that these models does not feel like any other RP models, having a different style and generally doesn't feel in-bred.

You can access the models at https://arliai.com and ask questions at https://www.reddit.com/r/ArliAI/

We also have a models ranking page at https://www.arliai.com/models-ranking

Ask questions in our new Discord Server! https://discord.com/invite/t75KbPgwhk

Model Description

Mistral-Small-22B-ArliAI-RPMax-v1.1 is a variant based on mistralai/Mistral-Small-Instruct-2409 which has a restrictive mistral license. So this is for your personal use only.

Context Length: 32768

Training Details

  • Sequence Length: 8192
  • Training Duration: Approximately 4 days on 2x3090Ti
  • Epochs: 1 epoch training for minimized repetition sickness
  • QLORA: 64-rank 128-alpha, resulting in ~2% trainable weights
  • Learning Rate: 0.00001
  • Gradient accumulation: Very low 32 for better learning.

Quantization

The model is available in quantized formats:

Suggested Prompt Format

Mistral Instruct Format

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
2bc6ae3

0 моделей

    Создать бенчмарк