Характеристики

Контекст: 512 токенов
Параметры: 138 млн
Лицензия: MIT
Архитектура: bert · dense
Базовая модель: LabiraPJOK_3x_50
Библиотека: transformers
Опубликована: 18 окт 2024

Ссылки

Hugging Face

LabiraPJOK_5x_50

Labira

Ответы на вопросыТекст → текст4 профессии

Дообученная BERT-модель для извлечения ответов на вопросы из текста.

11скачиваний за 30 дней0лайковвеса обновлены18 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Labira/LabiraPJOK_5x_50 — дообученная модель семейства BERT для ответов на вопросы. Она создана на основе Labira/LabiraPJOK_3x_50 и сохранена в формате TensorFlow; число параметров — 137,8 млн, максимальная длина контекста — 512 токенов. Карточка сообщает о дообучении на неизвестном наборе данных и приводит результаты обучения: loss на обучающей выборке 0,0274, validation loss 3,1328 после 44 эпох.

Модель предназначена для извлечения ответа из текста по заданному вопросу. README не описывает обучающие данные, целевую область или ограничения применения, поэтому качество и пригодность для конкретных сценариев по приведённым метрикам оценить нельзя. Лицензия — MIT.

Сценарии применения

извлечение ответа из текста по вопросу
создание системы вопросов и ответов по документам
поиск конкретного факта в предоставленном тексте

Ограничения

Данные обучения неизвестны, поэтому качество модели и её предметная область не установлены. Validation loss 3,1328 указывает на ограниченный результат в приведённой оценке, но без описания набора данных и метрики нельзя сделать вывод о качестве на практических задачах.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Labira/LabiraPJOK_5x_50

This model is a fine-tuned version of Labira/LabiraPJOK_3x_50 on an unknown dataset. It achieves the following results on the evaluation set:

Train Loss: 0.0274
Validation Loss: 3.1328
Epoch: 44

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

optimizer: {'name': 'Adam', 'weight_decay': None, 'clipnorm': None, 'global_clipnorm': None, 'clipvalue': None, 'use_ema': False, 'ema_momentum': 0.99, 'ema_overwrite_frequency': None, 'jit_compile': True, 'is_legacy_optimizer': False, 'learning_rate': {'module': 'keras.optimizers.schedules', 'class_name': 'PolynomialDecay', 'config': {'initial_learning_rate': 2e-05, 'decay_steps': 150, 'end_learning_rate': 0.0, 'power': 1.0, 'cycle': False, 'name': None}, 'registered_name': None}, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-08, 'amsgrad': False}
training_precision: float32

Training results

Train Loss	Validation Loss	Epoch
3.2696	2.9298	0
1.9565	2.6626	1
1.6690	2.7837	2
1.1679	2.9196	3
1.0975	2.8046	4
0.8930	2.6822	5
0.6527	2.6118	6
0.5637	2.5444	7
0.4854	2.5175	8
0.4389	2.5464	9
0.3206	2.5893	10
0.3225	2.6538	11
0.1880	2.7504	12
0.1288	2.8371	13
0.1381	2.9128	14
0.0994	2.9468	15
0.1544	2.9312	16
0.0978	2.9279	17
0.0492	2.9426	18
0.0612	2.9733	19
0.1016	3.0228	20
0.0554	3.0772	21
0.0768	3.1331	22
0.0277	3.1720	23
0.0403	3.1906	24
0.0730	3.1962	25
0.0204	3.1958	26
0.0731	3.1981	27
0.0414	3.1874	28
0.0316	3.1657	29
0.0324	3.1507	30
0.0526	3.1275	31
0.0369	3.1141	32
0.0406	3.1091	33
0.0214	3.1127	34
0.0209	3.1207	35
0.0139	3.1172	36
0.0215	3.1166	37
0.0140	3.1168	38
0.0277	3.1187	39
0.0131	3.1214	40
0.0184	3.1226	41
0.0286	3.1256	42
0.0144	3.1297	43
0.0274	3.1328	44

Framework versions

Transformers 4.44.2
TensorFlow 2.17.0
Datasets 3.0.1
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · question-answering

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры: BertForQuestionAnswering
Ревизия весов: c78d392