/ Модель

Характеристики

Контекст
130 токенов
Параметры
162 млн
Лицензия
CC BY-NC 4.0
Архитектура
roberta · dense
Опубликована
3 мая 2022

bertweet-tb2_ewt-pos-tagging

Разметка токеновТекст → label3 профессии

Модель RoBERTa TweebankNLP размечает части речи в англоязычных твитах и коротких текстах.

59скачиваний за 30 дней8лайковвеса обновлены5 мая 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TweebankNLP/bertweet-tb2_ewt-pos-tagging — модель команды TweebankNLP для разметки частей речи в сообщениях Twitter и других коротких англоязычных текстах. Это модель RoBERTa для классификации токенов с 162,4 млн параметров и контекстом до 130 токенов, сохранённая в формате PyTorch.

Модель обучена на объединённом обучающем корпусе Tweebank-NER и English-EWT. В карточке указана точность 95,38% на POS-бенчмарке Tweebank V2. Для лучшего качества авторы рекомендуют предварительно токенизировать твиты с помощью TweetTokenizer.

Основная задача — присвоение каждому токену метки части речи. Лицензия CC BY-NC 4.0 допускает использование с атрибуцией и ограничивает коммерческое применение.

Сценарии применения

  • разметка частей речи в сообщениях Twitter
  • POS-теггинг коротких англоязычных текстов
  • анализ структуры токенов в соцсетях

Ограничения

Для лучшего качества на твитах рекомендуется предварительная токенизация TweetTokenizer. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Specification

  • This is the state-of-the-art Twitter POS tagging model (with 95.38% Accuracy) on Tweebank V2's NER benchmark (also called Tweebank-NER), trained on the corpus combining both Tweebank-NER and English-EWT training data.
  • For more details about the TweebankNLP project, please refer to this our paper and github page.
  • In the paper, it is referred as HuggingFace-BERTweet (TB2+EWT) in the POS table.

How to use the model

  • PRE-PROCESSING: when you apply the model on tweets, please make sure that tweets are preprocessed by the TweetTokenizer to get the best performance.
from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("TweebankNLP/bertweet-tb2_ewt-pos-tagging")

model = AutoModelForTokenClassification.from_pretrained("TweebankNLP/bertweet-tb2_ewt-pos-tagging")

References

If you use this repository in your research, please kindly cite our paper:

@article{jiang2022tweetnlp,
    title={Annotating the Tweebank Corpus on Named Entity Recognition and Building NLP Models for Social Media Analysis},
    author={Jiang, Hang and Hua, Yining and Beeferman, Doug and Roy, Deb},
    journal={In Proceedings of the 13th Language Resources and Evaluation Conference (LREC)},
    year={2022}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForTokenClassification
Ревизия весов
1616a20

0 моделей