/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Лицензия
MIT
Архитектура
deberta-v2 · dense
Библиотека
transformers
Опубликована
20 янв 2023

deberta-v2-base-japanese-finetuned-ner

Разметка токеновТекст → label5 профессий

Японская модель на основе DeBERTa V2 для извлечения именованных сущностей из текста.

160скачиваний за 30 дней1лайквеса обновлены27 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это японская модель распознавания именованных сущностей на основе DeBERTa V2 Base Japanese, дообученная автором Mizuiro-sakura на японском наборе NER из Википедии. Она присваивает токенам метки, в том числе для имён людей, географических названий, организаций, событий, учреждений, компаний и продуктов; модель можно использовать для извлечения таких сущностей из японских текстов. В карточке приведены результаты оценки: micro F1 — 0,81, macro F1 — 0,80.

Модель содержит 137,8 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в форматах PyTorch и Safetensors для библиотеки Transformers. Базовая DeBERTa V2 Japanese была предварительно обучена на японской Википедии, японской части CC-100 и японской части OSCAR. Лицензия модели — MIT.

Сценарии применения

  • извлечение имён людей из японских текстов
  • распознавание географических названий в японских документах
  • поиск названий компаний и организаций в статьях
  • извлечение названий событий, учреждений и продуктов

Ограничения

Модель предназначена для японского языка и ограничена контекстом до 512 токенов. В карточке указан micro F1 0,81; качество может различаться между категориями сущностей.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

このモデルはdeberta-v2-base-japaneseをファインチューニングして固有表現抽出(NER)に用いれるようにしたものです。

このモデルはdeberta-v2-base-japaneseを Wikipediaを用いた日本語の固有表現抽出データセット(ストックマーク社、https://github.com/stockmarkteam/ner-wikipedia-dataset )を用いてファインチューニングしたものです。

This model is fine-tuned model for Named Entity Recognition (NER) which is based on deberta-v2-base-japanese

This model is fine-tuned by using Wikipedia dataset.

You could use this model for NER tasks.

How to use 使い方

transformersおよびpytorch、sentencepiece、Juman++をインストールしてください。 以下のコードを実行することで、固有表現抽出タスクを解かせることができます。 please execute this code.

from transformers import AutoTokenizer,pipeline, AutoModelForTokenClassification
tokenizer = AutoTokenizer.from_pretrained('Mizuiro-sakura/deberta-v2-base-japanese-finetuned-ner')
model=AutoModelForTokenClassification.from_pretrained('Mizuiro-sakura/deberta-v2-base-japanese-finetuned-ner') # 学習済みモデルの読み込み

text=('昨日は東京で買い物をした')

ner=pipeline('ner', model=model, tokenizer=tokenizer)

result=ner(text)
print(result)

モデルの精度 accuracy of model

                 precision   recall  f1-score   support

 その他の組織名       0.73      0.75      0.74      238
    イベント名        0.81      0.81      0.81      215
     人名            0.84      0.87      0.85      547
     地名            0.83      0.83      0.83      446
  政治的組織名        0.82      0.85      0.83      263
     施設名          0.74      0.86      0.80      241
     法人名          0.81      0.82      0.82      487
     製品名          0.68      0.73      0.71      252

   micro avg        0.79      0.82      0.81      2689
   macro avg        0.78      0.81      0.80      2689
 weighted avg       0.79      0.82      0.81      2689

deberta-v2-base-japaneseとは?

日本語Wikipedeia(3.2GB)および、cc100(85GB)、oscar(54GB)を用いて訓練されたモデルです。 京都大学黒橋研究室が公表されました。

Model description

This is a Japanese DeBERTa V2 base model pre-trained on Japanese Wikipedia, the Japanese portion of CC-100, and the Japanese portion of OSCAR.

Acknowledgments 謝辞

モデルを公開してくださった京都大学黒橋研究室には感謝いたします。

I would like to thank Kurohashi Lab at Kyoto University.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DebertaV2ForTokenClassification
Ревизия весов
7337f07

0 моделей