/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
Apache 2.0
Архитектура
roberta · dense
Опубликована
15 мая 2022

roberta-base-corener

Заполнение пропусковТекст → текст8 профессий

Англоязычная модель RoBERTa для извлечения сущностей, отношений и кореференции из текста.

52скачиваний за 30 дней8лайковвеса обновлены3 июл 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

aiola/roberta-base-corener — многоцелевая модель на базе RoBERTa, предназначенная для распознавания именованных сущностей, извлечения отношений, обнаружения упоминаний сущностей и разрешения кореференции. Модель разработала aiola; в карточке описаны совместное обучение задач и правила построения кластеров кореферентных упоминаний.

NER и обнаружение упоминаний реализованы как классификация текстовых фрагментов, а извлечение отношений и разрешение кореференции — как классификация пар фрагментов. Модель распознаёт типы сущностей, включая людей, организации, географические объекты, даты, суммы и события, а также отношения вроде «работает в», «живёт в» и «расположено в». Это англоязычная модель на 151,8 млн параметров с контекстом до 514 токенов.

Модель распространяется в формате PyTorch по лицензии Apache-2.0. В метаданных Hugging Face основная задача указана как заполнение пропусков (fill-mask), тогда как README описывает извлечение структурированной информации; поэтому поддержка этих прикладных задач в готовом интерфейсе Hugging Face не подтверждена метаданными.

Сценарии применения

  • распознавание имен и организаций в документах
  • извлечение отношений между сущностями в тексте
  • обнаружение упоминаний сущностей
  • связывание кореферентных упоминаний в тексте
  • извлечение дат, сумм и географических объектов

Ограничения

README описывает несколько задач извлечения информации, но метаданные Hugging Face указывают только fill-mask; прикладные задачи могут требовать специального кода или интерфейса. Контекст ограничен 514 токенами.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

CoReNer

Demo

We released an online demo so you can easily play with the model. Check it out: http://corener-demo.aiola-lab.com. The demo uses the aiola/roberta-base-corener model.

Model description

A multi-task model for named-entity recognition, relation extraction, entity mention detection, and coreference resolution.

We model NER as a span classification task and relation extraction as a multi-label classification of (NER) span tuples. Similarly, model EMD as a span classification task and CR as a binary classification of (EMD) span tuples. To construct the CR clusters, we keep the top antecedent of each mention, then compute the connected components of the mentions' undirected graph.

The model was trained to recognize:

  • Entity types: GPE, ORG, PERSON, DATE, NORP, CARDINAL, MONEY, PERCENT, WORK_OF_ART, ORDINAL, EVENT, LOC, TIME, FAC, QUANTITY, LAW, PRODUCT, LANGUAGE.
  • Relation types: Kill, Live_In, Located_In, OrgBased_In, Work_For.

Usage example

See additional details and usage examples at: https://github.com/aiola-lab/corener.

import json

from transformers import AutoTokenizer
from corener.models import Corener, ModelOutput
from corener.data import MTLDataset
from corener.utils.prediction import convert_model_output


tokenizer = AutoTokenizer.from_pretrained("aiola/roberta-base-corener")
model = Corener.from_pretrained("aiola/roberta-base-corener")
model.eval()

examples = [
    "Apple Park is the corporate headquarters of Apple Inc., located in Cupertino, California, United States. It was opened to employees in April 2017, while construction was still underway, and superseded the original headquarters at 1 Infinite Loop, which opened in 1993."
]

dataset = MTLDataset(
    types=model.config.types, 
    tokenizer=tokenizer,
    train_mode=False,
)
dataset.read_dataset(examples)
example = dataset.get_example(0)  # get first example

output: ModelOutput = model(
    input_ids=example.encodings,
    context_masks=example.context_masks,
    entity_masks=example.entity_masks,
    entity_sizes=example.entity_sizes,
    entity_spans=example.entity_spans,
    entity_sample_masks=example.entity_sample_masks,
    inference=True,
)

print(json.dumps(convert_model_output(output=output, batch=example, dataset=dataset), indent=2))

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForMaskedLM
Ревизия весов
a592955

0 моделей