/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
8 авг 2023

MythoMix-L2-13b

Генерация текстаТекст → текст3 профессии

Экспериментально объединённая модель Llama для ролевых диалогов и написания историй.

71скачиваний за 30 дней18лайковвеса обновлены11 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MythoMix-L2-13b — текстовая генеративная модель Gryphe, созданная экспериментальным слиянием MythoLogic-L2 и Huginn. Модель на архитектуре Llama с плотной архитектурой и 12,9 млрд параметров; для диалога используется формат Alpaca, а контекст составляет до 4096 токенов.

Модель предназначена прежде всего для ролевых диалогов и написания историй. Автор сообщает, что слияние 360 тензоров с индивидуальными коэффициентами позволило объединить понимание текста MythoLogic-L2 с писательскими способностями Huginn. Лицензия указана как other; конкретные условия следует уточнять в репозитории модели.

Сценарии применения

  • ведение ролевого диалога от лица персонажа
  • написание продолжения сцены или истории
  • создание художественных текстов по инструкции

Ограничения

Автор характеризует технику слияния как экспериментальную; в README рекомендуется более новая версия MythoMax. Контекст ограничен 4096 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

UPDATE: There's an improved version now! Check it MythoMax!

A requested variant of MythoLogic-L2 and Huginn using a highly experimental tensor type merge technique.

This model is proficient at both roleplaying and storywriting due to its unique nature.

Quantized models are available from TheBloke: GGML - GPTQ (You're the best!)

Model details

The idea behind this merge is that each layer is composed of several tensors, which are in turn responsible for specific functions. Using MythoLogic-L2's robust understanding as its input and Huginn's extensive writing capability as its output seems to have resulted in a model that exceeds at both, confirming my theory. (More details to be released at a later time)

This type of merge is incapable of being illustrated, as each of its 360 tensors has an unique ratio applied to it. As with my prior merges, gradients were part of these ratios to further finetune its behaviour.

Prompt Format

This model primarily uses Alpaca formatting, so for optimal model performance, use:

<System prompt/Character Card>

### Instruction:
Your instruction or question here.
For roleplay purposes, I suggest the following - Write <CHAR NAME>'s next reply in a chat between <YOUR NAME> and <CHAR NAME>. Write a single reply only.

### Response:

license: other

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
38d4217

0 моделей