/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Архитектура
llama · dense
Опубликована
10 окт 2023

PygKiCOTlion

Генерация текстаТекст → текст3 профессии

Экспериментальная текстовая модель на базе Pygmalion-2-13b-SuperCOT, объединённая с адаптером Kimiko v2 для генерации диалоговых ответов.

23скачиваний за 30 дней0лайковвеса обновлены12 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PygKiCOTlion — экспериментальное слияние модели Pygmalion-2-13b-SuperCOT и адаптера Kimiko v2, созданное KaraKaraWitch. Это плотная авторегрессионная модель семейства LLaMA с архитектурой LlamaForCausalLM, примерно 12,9 млрд параметров и контекстом до 4096 токенов. Модель предназначена для генерации текста; в карточке приведён простой формат диалога с системным промптом.

Автор описывает модель как эксперимент и отмечает, что её поведение не проверено. При низкой температуре генерации ответы могут зацикливаться, а при высокой модель может хуже следовать заданному формату. В карточке указаны лицензии LLaMA 2 для PygKiCOTlion, MIT для SuperCOT и предположительная CC BY-NC-SA для Kimiko v2; условия использования производной модели следует сверять с лицензиями её компонентов.

Сценарии применения

  • генерация диалоговых ответов по системному промпту
  • эксперименты с объединением адаптеров для языковых моделей
  • создание продолжений текста в диалоговом формате

Ограничения

Модель экспериментальная и не протестирована; при низкой температуре может зацикливаться, а при высокой — хуже следовать формату карточки. Карточка указывает неоднозначные условия лицензии Kimiko v2 (CC BY-NC-SA с оговоркой), поэтому условия использования следует проверить по лицензиям компонентов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for PygKiCOTlion

PygKiCOTlion is a a lora merge of Pygmalion-2-13b-SuperCOT + Kimiko v2

Model Details

Q: "Why do you do this?!"
A: Was bored.

Model Description

  • Developed by: KaraKaraWitch (Merge), kaiokendev (Original SuperCOT LoRA), nRuaif (Kimiko v2 LoRA), kingbri (Pygmalion 2 13b SuperCOT)
  • Model type: Decoder only
  • License: LLaMA2 (PygKiCOTlion), SuperCOT (MIT), Kimiko v2 (CC BY-NC-SA (?))
  • Finetuned from model [optional]: LLaMA2

Model Sources [optional]

Uses

YYMV.

Direct Use

Usage:

Since this is a merge between Pygmalion 2 13b SuperCOT and Kimiko v2, the following instruction formats should work:

Metharme:

<|system|>Your system prompt goes here.<|user|>Are you alive?<|model|>

Alpaca:

### Instruction:
Your instruction or question here.
### Response:

Bias, Risks, and Limitations

YMMV. This is untested territory.

Testing Feedbakc

Notes from KaraKaraWitch:

  • The model feels weirdly loopy compared to MythKiCOTlion at lower temps.
  • Higher temps the model tries to venture out of it's comfort zone at the cost of making it not stick to the model card as close as expected.

Training Details

N/A. Refer to the respective LoRa's and models.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
ccedac9

0 моделей