/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
MIT
Архитектура
gpt2 · dense
Опубликована
10 мая 2022

gpt2-ft-id-puisi

Генерация текстаТекст → текст3 профессии

Дообученная на индонезийских данных GPT-2 для генерации текста, вероятно стихотворений.

353скачиваний за 30 дней1лайквеса обновлены22 сен 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Sultannn/gpt2-ft-id-puisi — дообученная модель генерации текста на архитектуре GPT-2, созданная на основе базовой модели GPT-2 и предназначенная для генерации индонезийских стихотворений. README указывает, что модель дообучена на индонезийском рецептурном наборе данных, однако идентификатор модели и язык в метаданных указывают на индонезийскую поэзию; поэтому точное назначение обучающих данных нельзя уверенно установить.

Модель принимает текст и генерирует продолжение, контекст составляет 1024 токена. В карточке приведены значения потерь на обучающей и валидационной выборках: 5,3628 и 5,8179. Репозиторий содержит веса в формате TensorFlow. Лицензия — MIT.

Сценарии применения

  • генерация продолжения текста на индонезийском языке
  • создание черновиков индонезийских стихотворений
  • эксперименты с генерацией индонезийского текста на GPT-2

Ограничения

Описание обучения противоречиво: README называет индонезийский рецептурный набор, а имя модели указывает на стихи. Валидационная потеря выше обучающей; карточка не приводит примеров качества генерации.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gpt2-ft-id-puisi

This model is a fine-tuned on an Indonesian Recipe. It achieves the following results on the evaluation set:

  • Train Loss: 5.3628
  • Validation Loss: 5.8179

Training results

Train LossValidation LossEpoch
7.35616.54490
6.21766.15731
5.85336.00142
5.59555.87983
5.36285.81794

Licenese

The MIT license

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры
GPT2LMHeadModel
Ревизия весов
88af239

0 моделей