/ Модель

Характеристики

Контекст
130 токенов
Параметры
162 млн
Лицензия
CC BY-NC 4.0
Архитектура
roberta · dense
Опубликована
4 мая 2022

bertweet-tb2_wnut17-ner

Разметка токеновТекст → label3 профессии

Модель RoBERTa для распознавания именованных сущностей в сообщениях Twitter, обученная на данных Tweebank-NER и WNUT 17.

28скачиваний за 30 дней5лайковвеса обновлены5 мая 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель TweebankNLP/bertweet-tb2_wnut17-ner — модель распознавания именованных сущностей в сообщениях Twitter, разработанная проектом TweebankNLP. Это RoBERTa-модель для классификации токенов с 162,4 млн параметров и контекстом до 130 токенов. Она обучена на объединённых обучающих данных Tweebank-NER и WNUT 17; в статье названа HuggingFace-BERTweet (TB2+W17). Для лучшего качества твиты рекомендуется предварительно обрабатывать с помощью TweetTokenizer.

В README сообщается результат 74,35% Entity-Level F1 на бенчмарке Tweebank V2 NER. Модель подходит для извлечения сущностей из коротких сообщений в социальных сетях. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.

Сценарии применения

  • извлечение именованных сущностей из твитов
  • разметка сущностей в сообщениях Twitter
  • анализ упоминаний людей и организаций в социальных сетях

Ограничения

Для лучшего качества твиты следует предварительно обрабатывать с помощью TweetTokenizer. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Specification

  • This is the state-of-the-art Twitter NER model (with 74.35% Entity-Level F1) on Tweebank V2's NER benchmark (also called Tweebank-NER), trained on the corpus combining both Tweebank-NER and WNUT 17 training data.
  • For more details about the TweebankNLP project, please refer to this our paper and github page.
  • In the paper, it is referred as HuggingFace-BERTweet (TB2+W17).

How to use the model

  • PRE-PROCESSING: when you apply the model on tweets, please make sure that tweets are preprocessed by the TweetTokenizer to get the best performance.
from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("TweebankNLP/bertweet-tb2_wnut17-ner")

model = AutoModelForTokenClassification.from_pretrained("TweebankNLP/bertweet-tb2_wnut17-ner")

References

If you use this repository in your research, please kindly cite our paper:

@article{jiang2022tweetnlp,
    title={Annotating the Tweebank Corpus on Named Entity Recognition and Building NLP Models for Social Media Analysis},
    author={Jiang, Hang and Hua, Yining and Beeferman, Doug and Roy, Deb},
    journal={In Proceedings of the 13th Language Resources and Evaluation Conference (LREC)},
    year={2022}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForTokenClassification
Ревизия весов
af754e2

0 моделей