/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
1 апр 2022

named-entity-recognition-nerkor-hubert-hungarian

Разметка токеновТекст → label7 профессий

Венгерская модель на huBERT для выделения имён людей, мест, организаций и других именованных сущностей в тексте.

5 400скачиваний за 30 дней12лайковвеса обновлены12 янв 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель NYTK/named-entity-recognition-nerkor-hubert-hungarian — венгерская модель распознавания именованных сущностей, разработанная NYTK. Она основана на SZTAKI-HLT/hubert-base-cc и дообучена на наборе NYTK-NerKor. Модель размечает текст по категориям PER (люди), LOC (места), MISC (прочие сущности) и ORG (организации).

Модель предназначена для извлечения имен людей, географических названий и организаций из венгерского текста, например из новостей и документов. Архитектура — BERT для классификации токенов; в метаданных указан размер 137,8 млн параметров и контекст до 512 токенов. В карточке модели приведён максимальный размер последовательности 128 токенов и F-score 90,18%.

Модель распространяется по лицензии Apache-2.0. Указанный в карточке предел последовательности в 128 токенов требует разбивать более длинные тексты на фрагменты перед обработкой.

Сценарии применения

  • извлечение имён людей из венгерских текстов
  • поиск географических названий в венгерских документах
  • выделение организаций в венгерских новостях
  • разметка именованных сущностей для последующего анализа текста

Ограничения

В README указан максимальный размер последовательности 128 токенов, поэтому более длинный текст следует обрабатывать фрагментами. Приведённый F-score 90,18% не гарантирует такое же качество на других данных.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Hungarian Named Entity Recognition Model with huBERT

For further models, scripts and details, see our demo site.

  • Pretrained model used: SZTAKI-HLT/hubert-base-cc
  • Finetuned on NYTK-NerKor
  • NE categories are: PER, LOC, MISC, ORG

Limitations

  • max_seq_length = 128

Results

F-score: 90.18%

Usage with pipeline

from transformers import pipeline

ner = pipeline(task="ner", model="NYTK/named-entity-recognition-nerkor-hubert-hungarian")
input_text = "A Kovácsné Nagy Erzsébet nagyon jól érzi magát a Nokiánál, azonban a Németországból érkezett Kovács Péter nehezen boldogul a beilleszkedéssel."

print(ner(input_text, aggregation_strategy="simple"))

Citation

If you use this model, please cite the following paper:

@inproceedings {yang-language-models,
    title = {Training language models with low resources: RoBERTa, BART and ELECTRA experimental models for Hungarian},
	booktitle = {Proceedings of 12th IEEE International Conference on Cognitive Infocommunications (CogInfoCom 2021)},
	year = {2021},
	publisher = {IEEE},
	address = {Online},
	author = {Yang, Zijian Győző and Váradi, Tamás},
	pages = {279--285}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
620a833

0 моделей