Характеристики
- Контекст
- 512 токенов
- Параметры
- 432 млн
- Архитектура
- bert · dense
- Опубликована
- 23 дек 2022
Ссылки
spanbert-large-cased_NaturalQuestionsShort
Дообученная модель SpanBERT Large для извлечения коротких ответов на вопросы из заданного текстового контекста.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
haritzpuerto/spanbert-large-cased_NaturalQuestionsShort — модель на базе SpanBERT Large cased, дообученная пользователем haritzpuerto для извлечения ответов на вопросы. Она предназначена для extractive question answering: поиска фрагмента ответа непосредственно в предоставленном контексте, в частности в сценариях, связанных с датасетом Natural Questions Short. Модель используется через Transformers и имеет pipeline question-answering.
Модель относится к BERT-архитектуре, содержит около 432,3 млн параметров и поддерживает контекст длиной до 512 токенов. Её сильная сторона — span-based извлечение коротких ответов из текста; она не является генеративной моделью и не предназначена для свободного составления развернутых ответов. При превышении контекстом лимита или отсутствии ответа в тексте качество может снижаться.
Сценарии применения
- поиск ответа на вопрос в статье или документе
- извлечение фактов из веб-текста
- ответы на вопросы по корпусу Natural Questions
- построение extractive question answering pipeline
Ограничения
Модель извлекает ответный фрагмент из предоставленного контекста и не предназначена для генерации свободного текста. Контекст ограничен 512 токенами; качество зависит от соответствия данных сценарию Natural Questions Short.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · question-answering
Подбираем GPU…
- Класс архитектуры
- BertForQuestionAnswering
- Ревизия весов
- 62d9aa4