/ Модель

Характеристики

Контекст
512 токенов
Параметры
424 млн
Лицензия
Apache 2.0
Архитектура
bert · dense

chinese_pretrain_mrc_macbert_large

Ответы на вопросыТекст → текст4 профессии

Китайская дообученная модель MacBERT Large для извлечения ответов на вопросы по тексту и задач чтения с пониманием.

128скачиваний за 30 дней23лайкавеса обновлены12 июн 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Китайская модель понимания прочитанного Chinese MRC macbert-large от автора репозитория luhua, повторно обученная на большом объёме китайских данных MRC. Она построена на архитектуре BERT и предназначена прежде всего для извлечения ответов на вопросы по тексту; автор также сообщает об улучшении результатов в задачах чтения с пониманием и классификации. В карточке приведены результаты macbert-large на DuReader-2021 и tencentmedical.

Модель содержит 424,3 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Опубликованные веса представлены в формате PyTorch, лицензия — Apache-2.0. Карточка не уточняет ограничения применимости и подробности обучения, поэтому результаты на указанных наборах не гарантируют качество на других данных.

Сценарии применения

  • извлечение ответов из китайских текстов
  • ответы на вопросы по китайским документам
  • оценка систем чтения с пониманием на DuReader-2021
  • классификация текстов на китайском языке

Ограничения

Результаты приведены для отдельных наборов данных и не характеризуют качество на произвольных текстах. Поддержка других языков и более длинного контекста не заявлена.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Chinese MRC macbert-large

  • 使用大量中文MRC数据训练的macbert-large模型,详情可查看:https://github.com/basketballandlearn/MRC_Competition_Dureader
  • 此库发布的再训练模型,在 阅读理解/分类 等任务上均有大幅提高 (已有多位小伙伴在Dureader-2021等多个比赛中取得top5的成绩😁)
模型/数据集Dureader-2021tencentmedical
F1-scoreAccuracy
dev / A榜test-1
macbert-large (哈工大预训练语言模型)65.49 / 64.2782.5
roberta-wwm-ext-large (哈工大预训练语言模型)65.49 / 64.2782.5
macbert-large (ours)70.45 / 68.1383.4
roberta-wwm-ext-large (ours)68.91 / 66.9183.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForQuestionAnswering
Ревизия весов
f2d95d0

0 моделей