/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
Apache 2.0
Архитектура
gpt2 · dense
Базовая модель
cricket3
Опубликована
29 мар 2024

pr_cricket_01

Генерация текстаТекст → текст3 профессии

Дообученная модель GPT-2 для генерации текста на основе samhitmantrala/cricket3.

12скачиваний за 30 дней0лайковвеса обновлены29 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

samhitmantrala/pr_cricket_01 — дообученная на неизвестном наборе данных языковая модель GPT-2 для генерации текста. Она основана на samhitmantrala/cricket3 и рассчитана на контекст до 1024 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Карточка приводит значение loss 2,7288 на оценочном наборе, но не описывает данные обучения, сценарии применения или результаты сравнения. Поэтому пригодность модели для конкретных задач и качество генерируемого текста по имеющимся сведениям оценить нельзя.

Сценарии применения

  • Генерация продолжения текста

Ограничения

Набор данных и предполагаемые сценарии применения не описаны; приведённое значение loss не позволяет определить качество в пользовательских задачах. Контекст ограничен 1024 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

pr_cricket_01

This model is a fine-tuned version of samhitmantrala/cricket3 on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 2.7288

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-06
  • train_batch_size: 32
  • eval_batch_size: 32
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 50

Training results

Training LossEpochStepValidation Loss
No log1.012.8226
No log2.022.8172
No log3.032.8120
No log4.042.8067
No log5.052.8017
No log6.062.7970
No log7.072.7927
No log8.082.7887
No log9.092.7849
No log10.0102.7814
No log11.0112.7781
No log12.0122.7748
No log13.0132.7718
No log14.0142.7690
No log15.0152.7663
No log16.0162.7639
No log17.0172.7616
No log18.0182.7594
No log19.0192.7572
No log20.0202.7552
No log21.0212.7534
No log22.0222.7516
No log23.0232.7499
No log24.0242.7483
No log25.0252.7468
No log26.0262.7453
No log27.0272.7439
No log28.0282.7426
No log29.0292.7413
No log30.0302.7401
No log31.0312.7390
No log32.0322.7379
No log33.0332.7368
No log34.0342.7359
No log35.0352.7350
No log36.0362.7342
No log37.0372.7335
No log38.0382.7328
No log39.0392.7321
No log40.0402.7316
No log41.0412.7311
No log42.0422.7306
No log43.0432.7302
No log44.0442.7299
No log45.0452.7296
No log46.0462.7293
No log47.0472.7291
No log48.0482.7290
No log49.0492.7289
No log50.0502.7288

Framework versions

  • Transformers 4.38.2
  • Pytorch 2.2.1+cu121
  • Datasets 2.18.0
  • Tokenizers 0.15.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2LMHeadModel
Ревизия весов
0717038

0 моделей