/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
52,1 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
28 июл 2023

LLAMA2-13B-Holodeck-1

Генерация текстаТекст → текст3 профессии

Дообученная на электронных книгах модель Llama 2 для генерации и продолжения англоязычной художественной прозы.

39скачиваний за 30 дней24лайкавеса обновлены28 июл 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LLAMA2 13B-Holodeck-1 — дообученная KoboldAI модель семейства Llama 2 для генерации текста. Она основана на Meta Llama 2 и обучена на корпусе примерно из 3000 электронных книг разных жанров; значительная часть примеров помечена жанровым префиксом. Модель подходит для продолжения художественных текстов и генерации прозы по заданному началу.

Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и 12,9 млрд параметров. Она принимает текст и выдаёт текст, поддерживает английский язык; максимальный контекст составляет 4096 токенов. Репозиторий содержит веса PyTorch и Safetensors. Лицензия указана как other, поэтому условия использования следует уточнять в материалах репозитория.

Сценарии применения

  • продолжение художественного рассказа по начальной фразе
  • генерация прозы в заданном жанре
  • создание диалоговых сцен с вымышленными персонажами

Ограничения

Как и другие NLP-модели, может воспроизводить предвзятость по гендеру, профессии, расе и религии. Контекст ограничен 4096 токенами; условия лицензии типа other нужно проверить в репозитории.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LLAMA2 13B - Holodeck

Model Description

LLAMA2 13B-Holodeck is a finetune created using Meta's llama 2 model.

Training data

The training data contains around 3000 ebooks in various genres. Most parts of the dataset have been prepended using the following text: [Genre: <genre1>, <genre2>]

How to use

You can use this model directly with a pipeline for text generation. This example generates a different sequence each time it's run:

>>> from transformers import pipeline
>>> generator = pipeline('text-generation', model='KoboldAI/LLAMA2-13B-Holodeck-1')
>>> generator("Welcome Captain Janeway, I apologize for the delay.", do_sample=True, min_length=50)
[{'generated_text': 'Welcome Captain Janeway, I apologize for the delay."\nIt's all right," Janeway said. "I'm certain that you're doing your best to keep me informed of what\'s going on."'}]

Limitations and Biases

Based on known problems with NLP technology, potential relevant factors include bias (gender, profession, race and religion).

License

Llama 2 is licensed under the LLAMA 2 Community License, Copyright (c) Meta Platforms, Inc. All Rights Reserved.

Extra clause: You shall use the Materials and Products solely for research purposes or personal use and not for any commercial purpose. Nothing in the Community License shall be construed as granting you a license to use the Materials or Products for any other purpose.

BibTeX entry and citation info

https://huggingface.co/meta-llama/Llama-2-13b-hf

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
18c3ffd

0 моделей