/ Модель

Характеристики

Контекст
514 токенов
Параметры
659 млн
Лицензия
MIT
Архитектура
xlm-roberta · dense
Библиотека
transformers
Опубликована
9 мар 2025

AfroXLMR-Social

Заполнение пропусковТекст → текст3 профессии

Многоязычная XLM-RoBERTa для заполнения маскированных токенов и работы с текстами социальных сетей на 19 африканских языках.

207скачиваний за 30 дней1лайквеса обновлены18 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AfroXLMR-Social — языковая модель на базе XLM-RoBERTa, разработанная для текстов из социальных сетей на африканских языках. Она предназначена для задач заполнения маскированных токенов и может служить основой для анализа текстов в социальных сетях на 19 языках.

Модель содержит 658,7 млн параметров, использует архитектуру XLM-RoBERTa для masked language modeling и принимает текст с контекстом до 514 токенов. В предварительном обучении использован корпус AfriSocial. Репозиторий содержит веса в формате Safetensors; модель доступна по лицензии MIT.

Сценарии применения

  • Подстановка пропущенных слов в текстах на африканских языках
  • Адаптация языковой модели для анализа публикаций в социальных сетях
  • Получение контекстных представлений текстов на поддерживаемых африканских языках

Ограничения

Контекст ограничен 514 токенами. В карточке перечислены 19 языков, тогда как метаданные содержат коды для части из них.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

AfroXLMR-Social

AfroXLMR-Social a social domain specialized model for 19 African Languages.

Pre-training corpus

AfriSocial corpus Available at: https://huggingface.co/datasets/Tadesse/AfriSocial

Languages

  • Amharic (amh)
  • Somali (som)
  • Afrikaans (afr)
  • Hausa (hau)
  • Igbo (ibo)
  • Yorùbá (yor)
  • Kinyarwanda (kin)
  • Tigrinya (tir)
  • Oromo (orm)
  • Twi (twi)
  • Nigerian Pidgin (pcm)
  • Algerian Arabic (arq)
  • Moroccan Arabic (ary)
  • Mozambican Portug. (ptMZ)
  • Swahili (swa)
  • Makhuwa (vmw)
  • Xitsonga (tso)
  • Xhosa (xho)
  • Zulu (zul)

Acknowledgment

BibTeX entry and citation info.

@misc{belay2025afroxlmrsocialadaptingpretrainedlanguage,
      title={AfroXLMR-Social: Adapting Pre-trained Language Models for African Languages Social Media Text}, 
      author={Tadesse Destaw Belay and Israel Abebe Azime and Ibrahim Said Ahmad and David Ifeoluwa Adelani and Idris Abdulmumin and Abinew Ali Ayele and Shamsuddeen Hassan Muhammad and Seid Muhie Yimam},
      year={2025},
      eprint={2503.18247},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2503.18247}, 
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForMaskedLM
Ревизия весов
b30e35b

0 моделей