/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Лицензия
MIT
Архитектура
bert · dense
Базовая модель
bert-base-turkish-cased
Библиотека
transformers
Опубликована
19 дек 2024

bert-ner-turkish-cased

Разметка токеновТекст → label7 профессий

Дообученная турецкая BERT-модель для извлечения людей, мест, организаций, дат, денежных сумм и других именованных сущностей из текста.

131скачиваний за 30 дней0лайковвеса обновлены20 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

yeniguno/bert-ner-turkish-cased — дообученная модель на архитектуре BERT, созданная на основе dbmdz/bert-base-turkish-cased и обученная на пользовательском наборе данных для распознавания именованных сущностей в турецком тексте. Модель помечает сущности типов PER (люди), LOC (места), ORG (организации), DATE (даты), MONEY (денежные суммы) и MISC (прочие сущности), а также токены без сущностей.

Модель предназначена для извлечения именованных сущностей в NLP-конвейерах и может применяться для разметки турецких документов и текстов. Она построена как BERT-классификатор токенов, содержит 137,8 млн параметров и поддерживает контекст до 512 токенов. В README приведены метрики оценки: F1 0,9236, точность 0,9600, precision 0,9112 и recall 0,9364.

Модель распространяется по лицензии MIT. Её назначение ограничено распознаванием перечисленных типов сущностей в турецком тексте; качество на других языках и доменах в карточке не подтверждено.

Сценарии применения

  • извлечение имён людей из турецких документов
  • поиск организаций и мест в турецких текстах
  • извлечение дат и денежных сумм из турецких документов
  • автоматическая разметка сущностей в NLP-конвейерах

Ограничения

Модель предназначена для турецкого языка и размечает только указанные в карточке категории сущностей. Результаты на других языках и доменах не приведены.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bert-ner-turkish-cased

This model is a fine-tuned version of dbmdz/bert-base-turkish-cased on a custom Turkish NER dataset. It achieves the following results on the evaluation set:

  • Loss: 0.0987
  • Precision: 0.9112
  • Recall: 0.9364
  • F1: 0.9236
  • Accuracy: 0.9600

Model description

This model identifies named entities in Turkish text:

LABELS = [
    "O", "B-PER", "I-PER", "B-LOC", "I-LOC", "B-ORG", "I-ORG",
    "B-DATE", "I-DATE", "B-MONEY", "I-MONEY", "B-MISC", "I-MISC"
]
  • PER: Person
  • LOC: Location
  • ORG: Organization
  • DATE: Date
  • MONEY: Money
  • MISC: Miscellaneous Entities

Intended uses & limitations

Extracting entities from Turkish text in NLP pipelines.

How to Use

from transformers import pipeline

model_name = "yeniguno/bert-ner-turkish-cased"

ner_pipeline = pipeline("ner", model=model_name, tokenizer=model_name, aggregation_strategy="simple")

text = """Selim Parlak, 2023-11-15 tarihinde, CUMHURİYET MAH. DUMAN SOKAK 22500 HAVSA/EDİRNE adresinden, Dünya Varlık Yönetim A.Ş. aracılığıyla 850 TRY değerindeki MP.2386.JPA.IP5.WHT.I İPHONE5 ŞARJLI KILIF "AİR" 1700 MAH (BEYAZ) ürününü satın aldı."""

results = ner_pipeline(text)

for result in results:
    print(result)

"""
{'entity_group': 'PER', 'score': 0.9993254, 'word': 'Selim Parlak', 'start': 0, 'end': 12}
{'entity_group': 'DATE', 'score': 0.9987677, 'word': '2023 - 11 - 15', 'start': 14, 'end': 24}
{'entity_group': 'LOC', 'score': 0.99951524, 'word': 'CUMHURİYET MAH. DUMAN SOKAK 22500 HAVSA / EDİRNE', 'start': 36, 'end': 82}
{'entity_group': 'ORG', 'score': 0.8487069, 'word': 'Dünya Varlık Yönetim A. Ş.', 'start': 95, 'end': 120}
{'entity_group': 'MONEY', 'score': 0.9970985, 'word': '850 TRY', 'start': 134, 'end': 141}
{'entity_group': 'MISC', 'score': 0.97721404, 'word': 'MP. 2386. JPA. IP5. WHT. I İPHONE5 ŞARJLI KILIF " AİR " 1700 MAH ( BEYAZ )', 'start': 154, 'end': 219}
"""

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-06
  • train_batch_size: 32
  • eval_batch_size: 32
  • seed: 42
  • optimizer: Use adamw_torch with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: linear
  • num_epochs: 20
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossPrecisionRecallF1Accuracy
0.13511.015270.11580.85920.90700.88250.9517
0.10882.030540.10450.87870.93360.90530.9574
0.10163.045810.09930.89010.92800.90860.9576
0.11024.061080.09630.89910.92770.91320.9587
0.08775.076350.09530.90460.92920.91670.9584
0.09336.091620.09390.90360.93210.91760.9593
0.08277.0106890.09670.89860.93980.91880.9605
0.09338.0122160.09490.91220.92920.92060.9593
0.0849.0137430.09870.91120.93640.92360.9600

Framework versions

  • Transformers 4.47.0
  • Pytorch 2.5.1+cu121
  • Datasets 3.2.0
  • Tokenizers 0.21.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
fd25542

0 моделей