/ Модель

Характеристики

Контекст
131 072 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Лицензия
Llama 3.1
Архитектура
llama · dense
Базовая модель
Llama-3.1-Nemotron-70B-Instruct-HF
Библиотека
transformers
Опубликована
25 дек 2024

MythoNemo-L3.1-70B-v1.0

Генерация текстаТекст → текст3 профессии

Дообученная на базе Llama 3.1 Nemotron 70B диалоговая модель для ролевых сценариев, написания историй и выполнения инструкций.

26скачиваний за 30 дней5лайковвеса обновлены1 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MythoNemo-L3.1-70B-v1.0 — это дообученная Ppoyaa текстовая диалоговая модель на архитектуре Llama 3.1, основанная на nvidia/Llama-3.1-Nemotron-70B-Instruct-HF. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов.

Она предназначена для ролевых диалогов, написания историй и художественных текстов. Также модель сохраняет способности базовой версии следовать инструкциям и рассуждать; в метаданных отмечены чат и интерфейс вызова инструментов. Автор сообщает о предпочтении её ответов в собственных тестах, особенно при создании историй.

Модель работает с текстом и распространяется в формате Safetensors через Transformers. Лицензия — Llama 3.1. В метаданных есть пометка о контенте не для всех аудиторий; результаты, описанные автором, основаны на общих тестах без приведённых количественных сравнений.

Сценарии применения

  • ведение ролевых диалогов с персонажами
  • создание сюжетов и приключений
  • написание художественных историй
  • генерация ответов для карточек персонажей в SillyTavern
  • выполнение текстовых инструкций и запросов

Ограничения

Автор описывает результаты как основанные на общих тестах и не приводит количественных сравнений. В метаданных модель помечена как не предназначенная для всех аудиторий.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

811312532154312048.png

MythoNemo-L3.1-70B-v1.0

This model is a fine-tune of Llama3.1-Nemotron-70B-Instruct, specifically designed to enhance its roleplaying and story writing abilities. Not only did it excel in improving these aspects, but it also maintained its remarkable intelligence, ability to follow instructions, and reasoning skills. In my general tests, I mostly found myself preferring the outputs from this model compared to Nemotron-70B-Instruct, especially in its story writing capabilities that truly stood out.


SillyTavern

CHARACTER CARD RESPONSE EXAMPLE: 1735165523393.jpg

SCENARIO/ADVENTURE TYPE CARD EXAMPLE: 1735325051819.jpg

1735329195051.jpg

❕Those weird bolding or spaces at the examples above are due to the cropping. I don't know why that happens.❕


SILLYTAVERN PRESET:

I recommend using this preset that I made for this model. Ppoyaa/MythoNemo-Preset


❗THIS MODEL CAN AND COULD OUTPUT NSFW RESPONSES❗


Additional Response Examples

REASONING 1735157485528.jpg 1735157614777.jpg

STORYTELLING 1735159594209.jpg


Quants

Big thanks to the quants by mradermacher:

Static: mradermacher/MythoNemo-L3.1-70B-v1.0-GGUF

Weighted/Imatrix: mradermacher/MythoNemo-L3.1-70B-v1.0-i1-GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
faaa4e9

0 моделей