Характеристики

Контекст: 514 токенов
Параметры: 305 млн
Лицензия: MIT
Архитектура: xlm-roberta · dense
Опубликована: 17 мар 2023

Ссылки

Hugging Face

afriqa_afroxlmr_squad_v2

masakhane

Ответы на вопросыТекст → текст3 профессии

Модель XLM-RoBERTa, дообученная на SQuAD v2 для извлечения ответов на вопросы из текста на африканских языках.

212скачиваний за 30 дней1лайквеса обновлены17 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

extractivereaderafroxlmrsquadv2 — модель Masakhane на базе Davlan/afro-xlmr-base, дообученная на наборе данных SQuAD v2 для извлечения ответов на вопросы из текста. Она использует архитектуру XLM-RoBERTa и содержит 305,2 млн параметров; максимальная длина контекста составляет 514 токенов. Модель принимает вопрос и текстовый фрагмент и предсказывает ответ, включая возможность указать, что в тексте нет ответа. Репозиторий содержит веса PyTorch.

Модель предназначена для систем вопросов и ответов на африканских языках, поддерживаемых базовой моделью AfroXLMR. Карточка не приводит подробностей оценки качества и ограничений; практическая точность зависит от языка и соответствия входного текста обучающим данным. Лицензия — MIT.

Сценарии применения

извлечение ответа на вопрос из абзаца
поиск ответа в африканоязычных документах
ответы на вопросы по текстовым материалам на поддерживаемых африканских языках

Ограничения

Поддерживаемые языки и качество для отдельных языков в карточке не перечислены. Контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

extractive_reader_afroxlmr_squad_v2

This model is a fine-tuned version of Davlan/afro-xlmr-base on the squad_v2 dataset.

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 3e-05
train_batch_size: 64
eval_batch_size: 64
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5.0

Training results

Framework versions

Transformers 4.26.0
Pytorch 1.13.1+cu117
Datasets 2.8.0
Tokenizers 0.13.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры: XLMRobertaForQuestionAnswering
Ревизия весов: 3250715