/ Модель

Характеристики

Контекст
8 192 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Библиотека
transformers
Опубликована
27 мая 2024

L3-70B-daybreak-abliterated-v0.4

Генерация текстаТекст → текст3 профессии

Разговорная модель на базе Llama 3 70B Instruct для генерации художественного текста, в том числе контента для взрослых.

21скачиваний за 30 дней5лайковвеса обновлены27 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Daybreak v0.4 — разговорная языковая модель для генерации текста, созданная как LoRA и слитая с Llama 3 70B Instruct. Она предназначена для диалогов и художественной генерации; автор отмечает, что модель ориентирована на взрослый и откровенный контент. Модель имеет 69,5 млрд параметров, использует архитектуру Llama и принимает текст, выдавая текст. Контекст составляет 8192 токена.

Автор описывает продолжающуюся очистку обучающих данных от шаблонных выражений и рекомендует начать с температуры генерации 0,8–0,9. Модель основана на Llama 3 Instruct, поэтому часть таких выражений всё ещё встречается в ответах. Лицензия — Llama 3 Community License; карточка указывает, что модель не подходит для широкой аудитории.

Сценарии применения

  • генерация художественных сцен в диалоге
  • ролевая переписка с языковой моделью
  • создание откровенного текста для взрослых

Ограничения

Модель помечена автором как не подходящая для широкой аудитории и ориентирована на откровенный контент. Шаблонные выражения, от которых автор очищает данные, всё ещё могут встречаться в ответах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Daybreak (2024 May 24) v0.4 LoRA on top of https://huggingface.co/failspy/llama-3-70B-Instruct-abliterated

Beware, depraved. Not suitable for any audience.

Dataset curation to remove slop-perceived expressions continues. Unfortunately L3-Instruct (which this is merged on top of) is riddled with "barely audible"s and "couldn't help"s and "shivers down spines" etc.

The below regexes return 0 matches, but as noted above, there are still frequent occurrences of these in the base instruct merge. Bold entries are new since v0.3.

  • 'barely above a whisper',
  • 'barely audible',
  • 'shiver([s]?) down',
  • ' ministration',
  • 'audible (["'"]?)p[l]?op',
  • 'can't help but',
  • 'buck([s]?) my ',
  • 'buck([s]?) h[ei][rs] ',
  • '[Dd]espite h[ie][mr]self',
  • 'slick slit',
  • 'whatever it takes',
  • 'unlike anything (s?)he',
  • 'a mix([a-z]*) of',
  • 'wave after wave',
  • 'reckless abandon',
  • '[Mm]aybe, just maybe',
  • 'eyes gleaming',
  • 'mischievously',
  • "couldn't help but",

From testing so far, it feels like temperature 0.8-0.9 is a good starting point. I have mostly tested with everything neutralized. Please give feedback on which parameters work good for you.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
82c7576

0 моделей