/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
10 авг 2023

MythoMax-L2-13b

Генерация текстаТекст → текст3 профессии

Экспериментально объединённая модель Llama на 13 млрд параметров для ролевых диалогов и написания историй.

1 231скачиваний за 30 дней408лайковвеса обновлены21 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MythoMax-L2-13b — плотная авторегрессионная языковая модель семейства Llama, созданная Gryphe как экспериментальное слияние MythoLogic-L2 и Huginn с применением особого тензорного метода. В репозитории указано 12,9 млрд параметров, контекст до 4096 токенов и формат PyTorch; модель опубликована в августе 2023 года.

Модель предназначена прежде всего для ролевых диалогов и написания историй, сочетая понимание инструкций с развёрнутой художественной генерацией. Для общения автор рекомендует формат Alpaca. Модель принимает текст и генерирует текст на английском языке.

Автор описывает слияние как экспериментальное и отмечает улучшение связности по сравнению с MythoMix; независимые оценки качества в карточке не приведены. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией в репозитории.

Сценарии применения

  • ведение ролевого диалога с персонажем
  • написание художественных историй
  • продолжение сюжетного текста
  • генерация ответов в формате Alpaca

Ограничения

Слияние описано автором как экспериментальное, а независимые оценки качества не приведены. Лицензия указана как other; перед использованием следует проверить её условия в репозитории.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

With Llama 3 released, it's time for MythoMax to slowly fade away... Let's do it in style!

An improved, potentially even perfected variant of MythoMix, my MythoLogic-L2 and Huginn merge using a highly experimental tensor type merge technique. The main difference with MythoMix is that I allowed more of Huginn to intermingle with the single tensors located at the front and end of a model, resulting in increased coherency across the entire structure.

The script and the acccompanying templates I used to produce both can be found here.

This model is proficient at both roleplaying and storywriting due to its unique nature.

Quantized models are available from TheBloke: GGUF - GPTQ - AWQ (You're the best!)

Model details

The idea behind this merge is that each layer is composed of several tensors, which are in turn responsible for specific functions. Using MythoLogic-L2's robust understanding as its input and Huginn's extensive writing capability as its output seems to have resulted in a model that exceeds at both, confirming my theory. (More details to be released at a later time)

This type of merge is incapable of being illustrated, as each of its 363 tensors had an unique ratio applied to it. As with my prior merges, gradients were part of these ratios to further finetune its behaviour.

Prompt Format

This model primarily uses Alpaca formatting, so for optimal model performance, use:

<System prompt/Character Card>

### Instruction:
Your instruction or question here.
For roleplay purposes, I suggest the following - Write <CHAR NAME>'s next reply in a chat between <YOUR NAME> and <CHAR NAME>. Write a single reply only.

### Response:

license: other

Как запустить

На своей GPU в ailist или через готовый API. Цены — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

API через OpenRouter

gryphe/mythomax-l2-13b

Недоступна

$0.08 / $0.11

Запуск через API временно недоступен: у платформы закончился лимит OpenRouter.

Класс архитектуры
LlamaForCausalLM
Ревизия весов
58e77dd

0 моделей