Характеристики

Контекст: 514 токенов
Параметры: 305 млн
Лицензия: MIT
Архитектура: xlm-roberta · dense
Опубликована: 2 мар 2022

Ссылки

Hugging Face

xlm-roberta-base-turkish-ner

akdeniz27

Разметка токеновТекст → label7 профессий

Модель на основе XLM-RoBERTa извлекает из турецкого текста имена людей, организаций и местоположений.

214скачиваний за 30 дней7лайковвеса обновлены18 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

akdeniz27/xlm-roberta-base-turkish-ner — модель распознавания именованных сущностей, разработанная на основе XLM-RoBERTa и дообученная для турецкого языка. Она выполняет токенную классификацию и размечает имена людей, организаций и местоположений с помощью BIO-меток.

Модель содержит 305,2 млн параметров, принимает текст и имеет контекст до 514 токенов. Она подходит для извлечения сущностей из турецких текстов и может использоваться как компонент систем поиска, индексирования и анализа документов. Основа — мультиязычная XLM-RoBERTa; при дообучении использовался проверенный вариант турецкого набора данных NER.

В README приведены параметры обучения: длина последовательности 512 токенов, две эпохи и скорость обучения 2e-5. Модель распространяется по лицензии MIT. Описание не приводит метрик качества, поэтому точность на конкретных текстах следует оценивать отдельно.

Сценарии применения

извлечение имён людей из турецких документов
поиск организаций в турецких текстах
распознавание названий мест и географических объектов на турецком языке
разметка сущностей для индексации турецких документов

Ограничения

Модель размечает только людей, организации и местоположения; метрики качества в карточке не приведены, поэтому результаты на целевых данных нужно проверять отдельно.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Turkish Named Entity Recognition (NER) Model

This model is the fine-tuned version of "xlm-roberta-base" (a multilingual version of RoBERTa) using a reviewed version of well known Turkish NER dataset (https://github.com/stefan-it/turkish-bert/files/4558187/nerdata.txt).

Fine-tuning parameters:

task = "ner"
model_checkpoint = "xlm-roberta-base"
batch_size = 8 
label_list = ['O', 'B-PER', 'I-PER', 'B-ORG', 'I-ORG', 'B-LOC', 'I-LOC']
max_length = 512 
learning_rate = 2e-5 
num_train_epochs = 2 
weight_decay = 0.01

How to use:

model = AutoModelForTokenClassification.from_pretrained("akdeniz27/xlm-roberta-base-turkish-ner")
tokenizer = AutoTokenizer.from_pretrained("akdeniz27/xlm-roberta-base-turkish-ner")
ner = pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy="simple")
ner("<your text here>")

Pls refer "https://huggingface.co/transformers/_modules/transformers/pipelines/token_classification.html" for entity grouping with aggregation_strategy parameter.

Reference test results:

accuracy: 0.9919343118732742
f1: 0.9492100796448622
precision: 0.9407349896480332
recall: 0.9578392621870883

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: XLMRobertaForTokenClassification
Ревизия весов: d720eb0