/ Модель

Характеристики

Контекст
512 токенов
Параметры
190 млн
Архитектура
bert · dense
Опубликована
16 окт 2023

ADI-NADI-2023

Классификация текстаТекст → label

Производная модели AMR-KELEG/ADI-NADI-2023. BERT-модель, дообученная на NADI 2023 для определения арабского диалекта по тексту.

106скачиваний за 30 дней0лайковвеса обновлены22 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Карточка модели VARabi/ADI-NADI-2023 на Hugging Face совпадает с карточкой AMR-KELEG/ADI-NADI-2023, поэтому описание составлено по ней.

ADI-NADI-2023 — модель классификации текста на основе BERT, дообученная на обучающей выборке NADI 2023 для одноярлыковой идентификации арабских диалектов. Она предназначена для определения диалекта по арабскому тексту и использовалась в исследовании об ограничениях одноярлыковой классификации диалектов. Модель основана на MarBERT; архитектура — CustomBertForSequenceClassification, размер — 190 млн параметров, максимальная длина контекста — 512 токенов.

Модель принимает текст на арабском языке и выдаёт метку класса диалекта. Карточка не сообщает точный набор меток и не приводит результаты качества. Доступны веса в формате PyTorch. Условия лицензии в предоставленных данных не указаны.

Сценарии применения

  • определение арабского диалекта в сообщении
  • классификация арабских текстов по диалектам
  • анализ диалектного состава корпуса арабских текстов

Ограничения

Модель выполняет одноярлыковую классификацию, поэтому не отражает смешение диалектов в одном тексте. Карточка не приводит перечень классов или показатели качества.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for ADI-NADI-2023

GitHub

A BERT-based model fine-tuned to perform single-label Arabic Dialect Identification (ADI). The model was used in the following paper: Arabic Dialect Identification under Scrutiny: Limitations of Single-label Classification

Model Description

  • Model type: A Dialect Identification model fine-tuned on NADI 2023's training data.
  • Language(s) (NLP): Arabic.

Citation

If you find the model useful, please cite the following respective paper:

@inproceedings{keleg-magdy-2023-arabic,
    title = "{A}rabic Dialect Identification under Scrutiny: Limitations of Single-label Classification",
    author = "Keleg, Amr  and
      Magdy, Walid",
    editor = "Sawaf, Hassan  and
      El-Beltagy, Samhaa  and
      Zaghouani, Wajdi  and
      Magdy, Walid  and
      Abdelali, Ahmed  and
      Tomeh, Nadi  and
      Abu Farha, Ibrahim  and
      Habash, Nizar  and
      Khalifa, Salam  and
      Keleg, Amr  and
      Haddad, Hatem  and
      Zitouni, Imed  and
      Mrini, Khalil  and
      Almatham, Rawan",
    booktitle = "Proceedings of ArabicNLP 2023",
    month = dec,
    year = "2023",
    address = "Singapore (Hybrid)",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2023.arabicnlp-1.31",
    doi = "10.18653/v1/2023.arabicnlp-1.31",
    pages = "385--398",
    abstract = "Automatic Arabic Dialect Identification (ADI) of text has gained great popularity since it was introduced in the early 2010s. Multiple datasets were developed, and yearly shared tasks have been running since 2018. However, ADI systems are reported to fail in distinguishing between the micro-dialects of Arabic. We argue that the currently adopted framing of the ADI task as a single-label classification problem is one of the main reasons for that. We highlight the limitation of the incompleteness of the Dialect labels and demonstrate how it impacts the evaluation of ADI systems. A manual error analysis for the predictions of an ADI, performed by 7 native speakers of different Arabic dialects, revealed that $\approx$ 67{\%} of the validated errors are not true errors. Consequently, we propose framing ADI as a multi-label classification task and give recommendations for designing new ADI datasets.",
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
CustomBertForSequenceClassification
Ревизия весов
a025de7

0 моделей