Характеристики

Контекст: 512 токенов
Лицензия: Apache 2.0
Архитектура: distilbert · dense
Базовая модель: distilbert-base-uncased
Библиотека: transformers
Опубликована: 14 ноя 2024

Ссылки

Hugging Face

question_answering_finetune_on_squad2

phong1123

Ответы на вопросыТекст → текст

Дообученная DistilBERT-модель для извлечения ответа на вопрос из текста длиной до 512 токенов.

7скачиваний за 30 дней0лайковвеса обновлены14 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

phong1123/question_answering_finetune_on_squad2 — модель DistilBERT, дообученная для поиска ответа на вопрос в предоставленном контексте. Она предназначена для сценариев вопросно-ответного поиска, где входом служат вопрос и текст, содержащий ответ. Модель использует архитектуру DistilBertForQuestionAnswering и принимает контекст длиной до 512 токенов.

Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README приведено значение loss 1.1372 на оценочном наборе, но описание обучающих данных, подробные результаты и известные ограничения не раскрыты.

Сценарии применения

поиск ответа на вопрос в документе
извлечение факта из предоставленного контекста
ответы на вопросы по справочным текстам

Ограничения

README не содержит сведений о конкретных ограничениях или подробной оценке качества; указано лишь значение loss 1.1372 на оценочном наборе. Контекст ограничен 512 токенами.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

question_answering_finetune_on_squad2

This model is a fine-tuned version of distilbert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 1.1372

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 32
eval_batch_size: 32
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss
1.2624	1.0	2738	1.1752
0.9695	2.0	5476	1.1165
0.828	3.0	8214	1.1372

Framework versions

Transformers 4.45.1
Pytorch 2.4.0
Datasets 3.0.1
Tokenizers 0.20.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForQuestionAnswering
Ревизия весов: 123ff9c