Qlora finetuned from mlabonne/Llama-3.1-70B-Instruct-lorablated Trained on long form story content, instruction-following creative writing, roleplay, and adherence to system prompts. I tried to use a variety of prompting methods, but a markdown-like style for sorting information works best I think. My goal with this finetune is to have a fully uncensored model capable of a variety of styles and genres, and most importantly avoids the GPT-isms common in many creative models. Uses the Llama-3 chat template. No specific system prompts or keywords are necessary. This model is fully uncensored, you are responsible for what you choose to do with it.
Характеристики
- Контекст
- 131 072 токена
- Параметры
- 69,5 млрд
- Размер весов
- 141 ГБ
- Архитектура
- llama · dense
- Опубликована
- 19 авг 2024
Ссылки
Llama-3.1-70B-Instruct-Lorablated-Creative-Writer
Дообученная 70-миллиардная модель Llama 3.1 для написания длинных историй, творческих текстов и ролевых диалогов по инструкциям.
94скачиваний за 30 дней5лайковвеса обновлены19 авг 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
NobodySpecial/Llama-3.1-70B-Instruct-Lorablated-Creative-Writer — дообученная модель на базе mlabonne/Llama-3.1-70B-Instruct-lorablated, созданная для творческого письма и следования инструкциям. Она обучалась на длинных рассказах, заданиях на творческое письмо и ролевых диалогах, а также на соблюдении системных промптов. Модель использует плотную архитектуру LlamaForCausalLM примерно на 69,5 млрд параметров и шаблон чата Llama 3; доступна в формате safetensors. Заявлена длина контекста 131 072 токена.
Модель рассчитана на генерацию историй в разных стилях и жанрах, ролевые сценарии и выполнение творческих инструкций. Автор называет её нецензурированной и стремился уменьшить типичные для GPT стилистические обороты. Специальные системные промпты или ключевые слова не требуются. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.
Сценарии применения
- написание длинных рассказов в заданном жанре
- создание художественного текста в выбранном стиле
- генерация ролевых диалогов и сценариев
- выполнение творческих инструкций с заданными системными промптами
Ограничения
Автор характеризует модель как нецензурированную, поэтому ответы могут включать контент для взрослой аудитории или иные нежелательные материалы. Лицензия в предоставленной карточке не указана.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейIV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- ebf16c4