/ Модель

Характеристики

Контекст
512 токенов
Параметры
140 млн
Архитектура
bert · dense
Базовая модель
Ancient-Greek-BERT
Опубликована
31 мар 2024

grc-ner-bert

Разметка токеновТекст → label3 профессии

BERT-модель для распознавания именованных сущностей в древнегреческих текстах.

40скачиваний за 30 дней5лайковвеса обновлены23 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

UGARIT/grc-ner-bert — модель распознавания именованных сущностей в древнегреческом тексте, созданная на основе pranaydeeps/Ancient-Greek-BERT. Это BERT-модель с архитектурой BertForTokenClassification, дообученная на размеченных корпусах древнегреческих текстов. Она присваивает токенам метки сущностей, включая людей, места, группы и категории NORP, а также другие сущности класса MISC. Модель подходит для разметки и анализа исторических текстов и корпусов на древнегреческом языке; максимальная длина контекста составляет 512 токенов.

В README приведены результаты для класса LOC: F1 составляет 82,11% на тесте и 87,10% на валидации. Качество для других классов в доступной таблице не раскрыто, а наборы обучения включают ограниченное число древнегреческих корпусов, поэтому перенос на другие жанры и тексты может быть менее надёжным. Модель опубликована в формате PyTorch; лицензия в предоставленных данных не указана.

Сценарии применения

  • поиск имён людей в древнегреческих произведениях
  • извлечение географических названий из исторических текстов
  • разметка древнегреческих корпусов для цифровой гуманитаристики

Ограничения

Обучение основано на ограниченном наборе размеченных древнегреческих корпусов; приведённые метрики относятся к классу LOC, а результаты для остальных классов в доступных данных не раскрыты. Лицензия в предоставленных данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Named Entity Recognition for Ancient Greek

Pretrained NER tagging model for ancient Greek

Data

We trained the models on available annotated corpora in Ancient Greek. There are only two sizeable annotated datasets in Ancient Greek, which are currently un- der release: the first one by Berti 2023, consists of a fully annotated text of Athenaeus’ Deipnosophists, developed in the context of the Digital Athenaeus project. The second one by Foka et al. 2020, is a fully annotated text of Pausanias’ Periegesis Hellados, developed in the context of the Digital Periegesis project. In addition, we used smaller corpora annotated by students and scholars on Recogito: the Odyssey annotated by Kemp 2021; a mixed corpus including excerpts from the Library attributed to Apollodorus and from Strabo’s Geography, annotated by Chiara Palladino; Book 1 of Xenophon’s Anabasis, created by Thomas Visser; and Demos- thenes’ Against Neaira, created by Rachel Milio.

Training Dataset

PersonLocationNORPMISC
Odyssey2.46969800
Deipnosophists14.9212.6995.1103.060
Pausanias10.2058.6704.9720
Other Datasets3.2832.0401.0890
Total30.87814.10711.1713.060

Validation Dataset

PersonLocationNORPMISC
Xenophon1.1907968570

Results

ClassMetricTestValidation
LOCprecision82.92%87.10%
recall81.30%87.10%
f182.11%87.10%
MISCprecision80.43%0
recall70.04%0
f174.87%0
NORPprecision87.10%92.82%
recall90.81%93.42%
f188.92%93.12%
PERprecision92.61%95.52%
recall92.94%95.21%
f192.77%95.37%
Overallprecision88.92%92.63%
recall88.82%92.79%
f188.87%92.71%
Accuracy97.28%98.42%

Usage

This colab notebook contains the necessary code to use the model.

from transformers import pipeline

# create pipeline for NER
ner = pipeline('ner', model="UGARIT/grc-ner-bert", aggregation_strategy = 'first')
ner("ταῦτα εἴπας ὁ Ἀλέξανδρος παρίζει Πέρσῃ ἀνδρὶ ἄνδρα Μακεδόνα ὡς γυναῖκα τῷ λόγῳ · οἳ δέ , ἐπείτε σφέων οἱ Πέρσαι ψαύειν ἐπειρῶντο , διεργάζοντο αὐτούς .")

Output

[{'entity_group': 'PER',
  'score': 0.9999349,
  'word': 'αλεξανδρος',
  'start': 14,
  'end': 24},
 {'entity_group': 'NORP',
  'score': 0.9369563,
  'word': 'περση',
  'start': 33,
  'end': 38},
 {'entity_group': 'NORP',
  'score': 0.60742134,
  'word': 'μακεδονα',
  'start': 51,
  'end': 59},
 {'entity_group': 'NORP',
  'score': 0.9900457,
  'word': 'περσαι',
  'start': 105,
  'end': 111}]

Citation:

@inproceedings{palladino-yousef-2024-development,
    title = "Development of Robust {NER} Models and Named Entity Tagsets for {A}ncient {G}reek",
    author = "Palladino, Chiara  and
      Yousef, Tariq",
    editor = "Sprugnoli, Rachele  and
      Passarotti, Marco",
    booktitle = "Proceedings of the Third Workshop on Language Technologies for Historical and Ancient Languages (LT4HALA) @ LREC-COLING-2024",
    month = may,
    year = "2024",
    address = "Torino, Italia",
    publisher = "ELRA and ICCL",
    url = "https://aclanthology.org/2024.lt4hala-1.11",
    pages = "89--97",
    abstract = "This contribution presents a novel approach to the development and evaluation of transformer-based models for Named Entity Recognition and Classification in Ancient Greek texts. We trained two models with annotated datasets by consolidating potentially ambiguous entity types under a harmonized set of classes. Then, we tested their performance with out-of-domain texts, reproducing a real-world use case. Both models performed very well under these conditions, with the multilingual model being slightly superior on the monolingual one. In the conclusion, we emphasize current limitations due to the scarcity of high-quality annotated corpora and to the lack of cohesive annotation strategies for ancient languages.",
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
e751fd8

0 моделей