Характеристики

Контекст: 512 токенов
Параметры: 124 млн
Лицензия: Apache 2.0
Архитектура: t5 · dense
Опубликована: 8 янв 2024

Ссылки

Hugging Face

Question_Generation_ComQ_8

Gayathri142214002

Языковая модель3 профессии

Дообученная модель T5 для генерации вопросов по тексту.

8скачиваний за 30 дней0лайковвеса обновлены29 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Gayathri142214002/Question_Generation_ComQ_8 — модель на архитектуре T5, дообученная автором на основе Gayathri142214002/Question_Generation_ComQ_7. По названию репозитория она предназначена для генерации вопросов; карточка сообщает значение loss 0,2468 на оценочном наборе, но не описывает его состав или методику оценки.

Модель содержит 123,8 млн параметров, принимает текст и генерирует текст, максимальный заявленный контекст — 512 токенов. Доступны веса PyTorch и Safetensors. Лицензия — Apache-2.0. Данные о целевых языках, обучающем наборе и практических ограничениях в карточке отсутствуют.

Сценарии применения

составление вопросов по предоставленному тексту
создание вопросов для учебных материалов
подготовка вопросов для викторин и тестов

Ограничения

Обучающий набор и поддерживаемые языки не описаны. Значение loss приведено без деталей оценочного набора и методики, поэтому оно не позволяет судить о качестве модели в конкретном сценарии.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Question_Generation_ComQ_8

This model is a fine-tuned version of Gayathri142214002/Question_Generation_ComQ_7 on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.2468

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.0001
train_batch_size: 4
eval_batch_size: 4
seed: 42
gradient_accumulation_steps: 4
total_train_batch_size: 16
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 7

Training results

Training Loss	Epoch	Step	Validation Loss
0.2272	0.88	100	0.2013
0.2032	1.76	200	0.2146
0.1838	2.64	300	0.2305
0.1816	3.52	400	0.2394
0.1737	4.4	500	0.2414
0.1674	5.27	600	0.2454
0.1611	6.15	700	0.2468

Framework versions

Transformers 4.29.2
Pytorch 2.0.1+cu117
Datasets 2.12.0
Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры: T5ForConditionalGeneration
Ревизия весов: 8bab3c3