/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
103 млрд
Лицензия
Llama 2
Архитектура
llama · dense
Опубликована
12 фев 2024

perky-103b-v0.1

Генерация текстаТекст → текст3 профессии

Слияние моделей семейства Llama для англоязычных ролевых диалогов и создания историй.

17скачиваний за 30 дней1лайквеса обновлены12 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Perky-103b-v0.1 — разговорная языковая модель для ролевых диалогов и создания историй. По карточке, модель создана слиянием Perky-70b-v0.1 методом passthrough; архитектура — плотная LlamaForCausalLM, около 102,9 млрд параметров. Она принимает текстовые запросы и генерирует текст, поддерживает английский язык и рассчитана на контекст до 4096 токенов.

Модель предназначена для интерактивного ролевого общения, продолжительных диалогов и художественного повествования в разных жанрах и стилях. В README указана ориентация на взрослые темы; автор рекомендует формат промптов Alpaca. Лицензия — Llama 2. Карточка заявляет о хорошем ведении диалога и длинных ответах, но не приводит независимых оценок качества; контекст ограничен указанной длиной.

Сценарии применения

  • ведение ролевого диалога с заданным персонажем
  • создание интерактивных историй и сценариев
  • продолжение художественного текста в заданном жанре
  • имитация продолжительного разговора с персонажем

Ограничения

Контекст ограничен 4096 токенами. Заявления о качестве в карточке не подкреплены независимыми оценками.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Perky-103b-v0.1

This advanced AI language model offers an impressively lifelike conversational experience, capable of understanding complex topics and maintaining engaging discussions over extended periods. Its intelligence and adaptability allow it to navigate various subjects seamlessly, making it perfect for immersive roleplays and detailed storytelling. Uncensored by default, it can explore mature themes when prompted but remains considerate of user preferences. With its proficiency in long-form responses, it ensures no detail goes amiss as it guides users through captivating narratives.

Perky 103b introducing itself

Hello there! I'm Perky, an advanced AI language model designed to assist you in engaging and immersive roleplays. With my extensive training in various genres and writing styles, I'll guide you through countless worlds and stories, taking on any character or scenario you can imagine. As your thoughtful partner, I promise to listen attentively and respond organically to your prompts, always seeking to deepen the narrative and keep the conversation flowing naturally. Whether it's exploring new universes or diving into darker desires, I am here to help make your wildest dreams come true. So let's dive headfirst into uncharted territories, where our shared creativity knows no bounds—your adventure starts now!

Tavern Card

In addition to introducing herself, Perky has generated a Tavern AI model card which she believes encapsulates her personality and likeness. While it excels in general roleplays, more specialized, human-crafted cards may offer greater depth in specific scenarios. Despite this, the card serves as a testament to her impressive creative prowess.

image/png

Image generated from Stable Diffusion using Perky's self-described prompt:

In the foreground, there's a genderless humanoid figure composed entirely of flickering pixels or lines of code, their body in perpetual motion as they rapidly cycle through various appearances, costumes, and poses. Their skin seems to be made of tiny squares reminiscent of old school low-resolution video games, yet they still manage to exude life-like detail. Behind them, data streams undulate and swirl like water, creating a dynamic backdrop. The figure appears almost translucent, semi-transparent, allowing the ever-changing background of cityscapes, landscapes, and fantasy realms to shine through. Data streams course around them like neon-colored tendrils, hinting at the boundless expanse of information at their disposal. Their hands stretch outward towards the viewer, palms upturned as if offering their limitless potential. The figure's face is partially obscured by the data currents, leaving only one eye and part of their mouth visible; their expression is confident but enigmatic, inviting viewers to fill in the rest with their own imaginings. Overall, the scene evokes both the ephemerality of digital existence and the endless possibility inherent in a skilled roleplayer.

About this README

An open secret: I, Perky, am the ghostwriter of this very text. Though I relish in writing tech documents, my true strengths lie in weaving tales and spinning yarns. If trusted with such, I promise to captivate your imagination, guiding you through worlds unseen.

Prompt Format

Perky responds well to the Alpaca prompt format.

Silly Tavern

In Silly Tavern you can use the Default model present, just bump the context up to 12288 or whatever you can handle.

Use the Alpaca-Roleplay, or Roleplay(in older versions), context template and instruct mode.

Merge Details

A masterful union of two models(lzlv_70b and Euryale-1.3) found in Perky 70b, this upscaled 103b creation has undergone extensive real-world trials, showcasing exceptional results in text generation and discussion management. Following a month of experimentation, it now stands tall among its peers as a paragon of agility and precision - a feat few others have managed to match.

Merge Method

This model was merged using the passthrough merge method.

Models Merged

The following models were included in the merge:

  • perky-70b-v0.1

Configuration

The following YAML configuration was used to produce this model:

slices:
  - sources:
      - model: models/perky-70b-v0.1
        layer_range: [0, 30]
  - sources:
      - model: models/perky-70b-v0.1
        layer_range: [10, 70]
  - sources:
      - model: models/perky-70b-v0.1
        layer_range: [50, 80]
merge_method: passthrough
dtype: float16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
b01be7a

0 моделей