/ Модель

Характеристики

Контекст
512 токенов
Параметры
162 млн
Архитектура
bert · dense
Опубликована
29 мая 2023

darija-ner

Разметка токеновТекст → label3 профессии

BERT-модель для распознавания именованных сущностей в текстах на марокканском диалекте арабского языка — даридже.

19скачиваний за 30 дней8лайковвеса обновлены11 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

hananour/darija-ner — модель токенной классификации, разработанная Хананой Нур Муссой для распознавания именованных сущностей в марокканском диалекте арабского языка (даридже). Это BERT-модель с 162,4 млн параметров, обученная на датасете DarNERcorp; максимальная длина контекста — 512 токенов. Модель предназначена для выделения сущностей в текстах на даридже и может использоваться для разметки и анализа таких текстов.

В README приведены результаты F1: 66,06% на DarNERcorp_test и 70,06% на MixedNERcorp_test. Модель поддерживает арабский язык; формат весов — PyTorch. Лицензия в предоставленных данных не указана.

Сценарии применения

  • выделение именованных сущностей в текстах на даридже
  • разметка марокканских диалектных текстов для NLP
  • поиск сущностей в арабоязычных сообщениях на даридже

Ограничения

На тестах указаны F1 66,06% для DarNERcorp и 70,06% для MixedNERcorp; качество может зависеть от корпуса и соответствия текста марокканскому диалекту. Лицензия в предоставленных данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

darija-ner

This is the first model for Named Entity Recognition (NER) in the Moroccan dialect (Darija). The model was trained on the very first NER dataset in Darija, DarNERcorp, that can be found on Mendeley https://data.mendeley.com/datasets/286sss4k9v/4.

Model Description

  • Developed by: Hanane Nour Moussa
  • Model type: Token classification
  • Language(s) (NLP): Arabic, Darija

Model Sources

Metrics

F1 score.

Results

DarNERcorp_test: F1 = 66.06%

MixedNERcorp_test: F1 = 70.06%

Environmental Impact

Carbon emissions can be estimated using the Machine Learning Impact calculator presented in Lacoste et al. (2019).

  • Hardware Type: NVIDIA T4
  • Hours used: 0.7
  • Cloud Provider: Google Cloud
  • Compute Region: europe-west1
  • Carbon Emitted: 0.01 kg

Citation

If you use DarNERcorp dataset to train your models, cite the following paper:

Hanane Nour Moussa, Asmaa Mourhir, DarNERcorp: An annotated named entity recognition dataset in the Moroccan dialect, Data in Brief, Volume 48, 2023, 109234, ISSN 2352-3409, https://doi.org/10.1016/j.dib.2023.109234. (https://www.sciencedirect.com/science/article/pii/S2352340923003530)

GitHub Repo:

Our data curation and model traning code is openly available on GitHub: https://github.com/HananeNourMoussa/darija-ner

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
34cc94c

0 моделей