/ Модель

Характеристики

Контекст
131 072 токена
Параметры
22 млрд
Размер весов
44,5 ГБ
Архитектура
mistral · dense
Базовая модель
Mistral-Small-Instruct-2409
Опубликована
20 сен 2024

SeminalRP-22b

Генерация текстаТекст → текст3 профессии

Дообученная 22-миллиардная модель Mistral для ролевых диалогов, творческого письма и ответов на обычные вопросы на английском языке.

16скачиваний за 30 дней2лайкавеса обновлены20 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SeminalRP-22b — дообученная gghfez модель Mistral-Small-Instruct-2409 с 22 млрд параметров для ролевых диалогов, творческого письма и ответов на обычные вопросы. Она использует плотную архитектуру MistralForCausalLM и шаблон запросов [INST]…[/INST]. В карточке указано, что при дообучении применялись данные для RP, творческого письма и обычных вопросов, сгенерированные Opus при контексте 8192 токена; отказы удалены из обучающих данных, а низкокачественные примеры отфильтрованы частично.

Модель принимает текст и генерирует текст на английском языке. Метаданные каталога указывают нативный контекст 131072 токена, тогда как README описывает обучение на контексте 8192 токена. Указана лицензия MRL-0.1 и ограничение на некоммерческое использование из-за лицензии и данных Opus. Для модели также опубликованы квантизованные версии в GGUF.

Сценарии применения

  • ведение ролевых диалогов
  • написание художественных сцен и историй
  • продолжение творческого текста
  • ответы на обычные вопросы
  • генерация диалоговых реплик

Ограничения

Обучающая выборка использовала контекст 8192 токена, хотя в метаданных для модели указан нативный контекст 131072 токена. Данные Opus и лицензия MRL-0.1 ограничивают использование некоммерческими сценариями; удаление отказов из данных может повлиять на поведение модели при нежелательных запросах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Finetuned mistralai/Mistral-Small-Instruct-2409 on RP and creative writing and some regular questions generated by Opus at 8192 context.

Refusals removed from dataset.

Slop removed to some extent.

Prompt Template:

<s>[INST] {input} [/INST] {output}</s>

Licence: MRL-0.1

(Non-comercial use due to the Opus data and inheritied MRL license)

GGUF quants:

gghfez/SeminalRP-22b-GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
d5afa56

0 моделей