/ Модель

Характеристики

Контекст
512 токенов
Параметры
436 млн
Лицензия
MIT
Архитектура
bert · dense
Опубликована
26 мая 2023

bert-large-japanese-v2-finetuned-ner

Разметка токеновТекст → label

Японская BERT-модель для извлечения именованных сущностей из текста, дообученная на корпусе Wikipedia.

103скачиваний за 30 дней4лайкавеса обновлены21 июл 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель Mizuiro-sakura, созданная дообучением cl-tohoku/bert-large-japanese-v2 для распознавания именованных сущностей в японском тексте. Она использует архитектуру BERT для классификации токенов и принимает текст, присваивая его фрагментам метки сущностей. В карточке приведены результаты оценки: общая точность указана как 0,862; F1 для категорий «прочие организации», «события» и «персоны» составляет 0,79, 0,85 и 0,93 соответственно.

Модель рассчитана на извлечение сущностей из японских текстов, в том числе на основе данных Wikipedia. Параметры модели — 436,2 млн, контекст — до 512 токенов. Для токенизации карточка рекомендует fugashi и unidic_lite вместе с Transformers. Модель распространяется по лицензии MIT.

Сценарии применения

  • извлечение имён людей из японских текстов
  • поиск названий организаций в японских документах
  • распознавание событий в статьях на японском языке

Ограничения

Оценка приведена для конкретного набора данных Wikipedia; качество на других жанрах и типах японского текста может отличаться. Контекст ограничен 512 токенами.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

このモデルはcl-tohoku/bert-large-japanese-v2をファインチューニングして、固有表現抽出(NER)に用いれるようにしたものです。

このモデルはcl-tohoku/bert-large-japanese-v2を Wikipediaを用いた日本語の固有表現抽出データセット(ストックマーク社、https://github.com/stockmarkteam/ner-wikipedia-dataset )を用いてファインチューニングしたものです。

固有表現抽出(NER)タスクに用いることができます。

This model is fine-tuned model for Named-Entity-Recognition(NER) which is based on cl-tohoku/bert-large-japanese-v2

This model is fine-tuned by using Wikipedia dataset.

You could use this model for NER tasks.

モデルの精度 accuracy of model

全体:0.8620626488367833

precisionrecallf1-scoresupport
その他の組織名0.800.780.79238
イベント名0.820.880.85215
人名0.920.950.93549
地名0.900.890.89446
政治的組織名0.860.910.89263
施設名0.860.910.88241
法人名0.880.890.88487
製品名0.620.680.65252
micro avg0.850.870.862691
macro avg0.830.860.852691
weighted avg0.850.870.862691

How to use 使い方

fugashiとtransformers,unidic_liteをインストールして (pip install fugashi, pip install unidic_lite, pip install transformers) 以下のコードを実行することで、NERタスクを解かせることができます。 please execute this code.

from transformers import AutoTokenizer,pipeline, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained('Mizuiro-sakura/bert-large-japanese-v2-finetuned-ner')
model=AutoModelForTokenClassification.from_pretrained('Mizuiro-sakura/bert-large-japanese-v2-finetuned-ner') # 学習済みモデルの読み込み

text=('昨日は東京で買い物をした')

ner=pipeline('ner', model=model, tokenizer=tokenizer)

result=ner(text)
print(result)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
b103242

0 моделей