Характеристики

Контекст: 512 токенов
Параметры: 136 млн
Архитектура: bert · dense

Ссылки

Hugging Face

bert-finetuned-squad

huggingface-course

Ответы на вопросыТекст → текст9 профессий

BERT-модель для извлечения ответов на вопросы из текста, обученная на SQuAD.

65скачиваний за 30 дней9лайковвеса обновлены11 ноя 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель BERT с 135,5 млн параметров предназначена для ответов на вопросы по предоставленному тексту: она находит в контексте фрагмент, соответствующий вопросу. Модель обучена с нуля на датасете SQuAD; в карточке указана архитектура BertForQuestionAnswering. Поддерживаются форматы PyTorch и TensorFlow, максимальная длина контекста составляет 512 токенов.

Модель подходит для извлечения ответов из текстовых документов и справочных материалов. Данных о поддерживаемых естественных языках и специальных областях применения нет. Лицензия в предоставленных сведениях не указана.

Сценарии применения

поиск ответа в тексте по заданному вопросу
ответы на вопросы по справочным материалам
извлечение фактов из текстовых документов

Ограничения

Контекст ограничен 512 токенами; сведений о качестве оценки и поддерживаемых языках в карточке нет.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

test-bert-finetuned-squad

This model was trained from scratch on the squad dataset.

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3
mixed_precision_training: Native AMP

Framework versions

Transformers 4.11.0.dev0
Pytorch 1.8.1+cu111
Datasets 1.12.2.dev0
Tokenizers 0.10.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForQuestionAnswering
Ревизия весов: cdce6f8