/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
MIT
Архитектура
gpt2 · dense
Библиотека
transformers
Опубликована
7 сен 2023

gpt2-poetry-model-crpo

Генерация текстаТекст → текст3 профессии

Дообученная GPT-2 для генерации англоязычных поэтических строк и интерактивного сочинения стихов.

62скачиваний за 30 дней1лайквеса обновлены13 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

andreipb/gpt2-poetry-model-crpo — языковая модель на базе GPT-2, разработанная Тео Феррари в рамках бакалаврской работы в HEIG-VD под руководством Андрея Попеску-Белиса. Модель дообучена на корпусе поэзии Gutenberg объёмом 142 МБ в течение трёх эпох и содержит 137 млн параметров.

Модель генерирует строки стихотворений на английском языке, начиная каждую строку со специального токена, который можно удалить при постобработке. Она применялась в системе CR-PO для интерактивного сочинения стихов вместе с другими моделями, отвечающими за тематику и эмоции. Архитектура — GPT2LMHeadModel; максимальный контекст составляет 1024 токена.

Модель подходит для генерации англоязычных поэтических строк и прототипов интерактивных поэтических систем. Она не описана как средство для генерации рифм на синтетических данных, несмотря на название связанной научной работы. Лицензия — MIT.

Сценарии применения

  • генерация строк английского стихотворения
  • создание поэтических продолжений по заданному контексту
  • интерактивное сочинение стихов
  • создание прототипа поэтического чат-бота

Ограничения

Модель обучена для генерации англоязычной поэзии и не предназначена для универсального диалога; контекст ограничен 1024 токенами. Каждая строка начинается со специального токена, который требуется удалить при постобработке.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gpt2-poetry-model-crpo

This model is based on the smallest gpt2 model (137 M parameters) fine-tuned on the Gutenberg Poetry Corpus (142 MB of text) for 3 epochs.

The model generates lines of poetry, in English, each of them starting with the <start> tag, which can be removed through post-processing.

This model was trained by Teo Ferrari as part of his Bachelor thesis at HEIG-VD, supervised by Andrei Popescu-Belis. The model is described in "GPoeT: a Language Model Trained for Rhyme Generation on Synthetic Data" and is used in the CR-PO system for interactive poem generation, along with several other models for specific topics or emotions.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2LMHeadModel
Ревизия весов
f7ba9c1

0 моделей