Характеристики

Контекст: 512 токенов
Параметры: 124 млн
Лицензия: Apache 2.0
Архитектура: t5 · dense
Базовая модель: flan-t5-base
Опубликована: 23 сен 2023

Ссылки

Hugging Face

flan-t5-small-qa

badokorach

Языковая модель3 профессии

Дообученная многоязычная модель T5 для генерации текстовых ответов на вопросы.

8скачиваний за 30 дней0лайковвеса обновлены27 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

badokorach/flan-t5-small-qa — дообученная модель семейства T5 на основе google/flan-t5-base, разработанная автором репозитория badokorach. По названию она предназначена для ответов на вопросы; карточка сообщает о дообучении на неизвестном наборе данных и приводит значение loss 0,0634 на оценочном наборе. Модель имеет архитектуру T5ForConditionalGeneration, около 123,8 млн параметров и принимает и генерирует текст; базовая модель ориентирована на многоязычные задачи NLP. Максимальная длина контекста — 512 токенов.

Модель может применяться для генерации ответов на текстовые вопросы. Данные об обучающем наборе, подробностях оценки и практических ограничениях не приведены, поэтому значение loss само по себе не позволяет судить о качестве на новых данных. Весы опубликованы в формате PyTorch по лицензии Apache-2.0.

Сценарии применения

ответы на вопросы по переданному тексту
создание прототипа системы вопросов и ответов
генерация кратких ответов на запросы на естественном языке

Ограничения

Обучающий набор данных не описан, а приведённый loss без деталей оценочного набора не позволяет оценить обобщение модели. Контекст ограничен 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

flan-t5-small-qa

This model is a fine-tuned version of google/flan-t5-base on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.0634

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 3e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss
No log	1.0	305	0.0540
3.6654	2.0	610	0.0568
3.6654	3.0	915	0.0618
0.073	4.0	1220	0.0627
0.0674	5.0	1525	0.0634

Framework versions

Transformers 4.33.3
Pytorch 2.0.1+cu118
Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры: T5ForConditionalGeneration
Ревизия весов: 12adea9