Llama-3-LongStory

Blackroot/Llama-3-LongStory — текстовая генеративная модель семейства Llama, предназначенная для продолжения длинных историй и написания рассказов по краткому запросу. По карточке модель обучена на 100 МБ длинных историй в течение восьми эпох; обучающие примеры включали краткие пересказы предыдущих событий и длинные продолжения. Размер в метаданных указан как 7,5 млрд параметров, а карточка описывает веса как FP16; используется формат запроса Llama 3 и контекст длиной 8192 токена.

Модель подходит для создания художественной прозы с заданной завязкой и последовательного продолжения повествования с учётом пересказа предшествующих событий. В метаданных указаны возможности чата, однако основное назначение модели — генерация историй. Лицензия — Llama 3; обучение на ограниченном наборе длинных историй может сужать разнообразие стилей и сюжетов.