/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
8 мар 2024

InfinityRP-v1-7B

Генерация текстаТекст → текст3 профессии

Экспериментальная англоязычная модель Mistral на 7,1 млрд параметров для ролевых диалогов, настроенная на ожидание ответа пользователя и передачу мыслей персонажа.

93скачиваний за 30 дней34лайкавеса обновлены14 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

InfinityRP-v1-7B — экспериментальная текстовая модель Endevor для ролевых диалогов. Это плотная причинно-языковая модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов, представленная в формате safetensors. Автор указывает, что модель вдохновлена lemonilia/Limamono-Mistral-7B-v0.50.

Модель предназначена для ролевого чата в формате Extended Alpaca. Она настроена на то, чтобы персонаж чаще ждал ответа пользователя и не решал за него, а также может передавать внутренние мысли персонажа. Карточка предлагает задавать длину ответа от короткой до очень большой, но самые большие варианты не полностью проверены.

Автор описывает модель как экспериментальную и отмечает, что она пока работает не очень хорошо. Поддерживается английский язык. Лицензия — Apache-2.0.

Сценарии применения

  • ролевые диалоги с вымышленным персонажем
  • интерактивные истории с очередностью реплик
  • генерация реплик персонажа с внутренними мыслями
  • продолжение ролевого чата в формате Extended Alpaca

Ограничения

Автор предупреждает, что модель экспериментальная и качество пока невысокое. Очень длинные варианты ответа не полностью проверены; мысли персонажа могут появляться спонтанно.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

example

This is an experimental model I currently use. It's far from great as I'm still working on it, but I leave it here for people to try if interested in this format. This model was basically made to stop some upsetting hallucinations, so {{char}} mostly and occasionally will wait {{user}} response instead of responding itself or deciding for {{user}}, also, my primary idea was to create a cozy model that thinks.*

Inspired by lemonilia/Limamono-Mistral-7B-v0.50

Style details:

  • Quotes are used for character dialogs.
    • "Hey, Anon... What do you think about my style?"
  • Asterisks can be used for narration, but it's optional, it's recommended to use default novel format.
    • *Her cheeks blush slightly, she tries to hide.*
  • Character thoughts are wrapped with ` marks. This may often spontaneously occur.
    • My heart skips a beat hearing him call me pretty!

If you want thoughts to appear more often, just add something like this to your system prompt: "{{char}} internal thoughts are wrapped with ` marks."

  • Accepted response lengths: tiny, short, medium, long, huge

For example: ### Response: (length = medium)

Note: Apparently humongous, extreme and unlimited may not work at moment. Not fully tested.

Prompt format:

Extended Alpaca, as always.

"You are now in roleplay chat mode. Engage in an endless chat with {{user}}. Always wait {{user}} turn, next actions and responses."

Example:

example

Abstinence note: Very sorry for my delay answering some questions, I was out on a travel without access to my main computer, now that I'm back in the confort of my home, I will try to get things on track. First, I will test few things to get updated with the newest AIs and merges before I do any release. Anyway, really happy to see this model is some ppl, got a lot of useful feedback from here and Reddit as well, thank you all.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
988327f

0 моделей