/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Архитектура
llama · dense
Опубликована
19 сен 2023

MythaKiCOTlion-v2

Генерация текстаТекст → текст3 профессии

Экспериментальная объединённая модель LLaMA на 12,9 млрд параметров для генерации текста по инструкциям и запросам.

27скачиваний за 30 дней0лайковвеса обновлены19 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MythaKiCOTlion-v2 — плотная авторегрессионная языковая модель семейства LLaMA с 12,9 млрд параметров, собранная KaraKaraWitch как объединение Mythalion 13B и адаптеров SuperCOT и Kimiko v2. Модель предназначена для генерации текста в ответ на инструкции и запросы; карточка приводит пример формата с системным промптом и вопросом. Контекст составляет 4096 токенов, доступен формат PyTorch.

Автор описывает работу как эксперимент и сообщает, что модель не тестировалась. Поэтому качество ответов, устойчивость следования инструкциям и совместимость разных форматов промптов не гарантированы. В README указаны лицензия LLaMA 2 для MythaKiCOTlion, MIT для SuperCOT и предположительно CC BY-NC-SA для Kimiko v1; условия исходных компонентов следует проверить перед использованием и распространением.

Сценарии применения

  • генерация ответов на текстовые запросы
  • эксперименты с ответами на инструкции
  • создание диалоговых ответов с системным промптом

Ограничения

Автор сообщает, что модель не тестировалась, поэтому качество и следование инструкциям не гарантированы. Лицензионные условия компонентов различаются, а лицензия Kimiko v1 в README указана с оговоркой о неопределённости.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for MythaKiCOTlion

MythaKiCOTlion is a a lora merge of Mythalion 13B + (SuperCOT + Kimiko v2)

Model Details

Q: "Why do you do this?!"
A: Was bored.

Model Description

  • Developed by: KaraKaraWitch (Merge), kaiokendev (SuperCOT LoRA), nRuaif (Kimiko v2 LoRA)
  • Model type: Decoder only
  • License: LLaMA2 (MythaKiCOTlion), SuperCOT (MIT), Kimiko v1 (CC BY-NC-SA (?))
  • Finetuned from model [optional]: LLaMA2

Model Sources [optional]

Uses

YYMV.

Direct Use

Usage:

Since this is a merge between Mythalion 13B, SuperCOT-LoRA and Kimiko v2, the following instruction formats should work:

Metharme:

<|system|>Your system prompt goes here.<|user|>Are you alive?<|model|>

Alpaca:

### Instruction:
Your instruction or question here.
### Response:

Bias, Risks, and Limitations

YMMV. This is untested territory.

Training Details

N/A. Refer to the respective LoRa's and models.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
5dca7c0

0 моделей