/ Модель

Характеристики

Контекст
514 токенов
Параметры
167 млн
Лицензия
MIT
Архитектура
xlm-roberta · dense
Базовая модель
afro-xlmr-small
Опубликована
27 сен 2023

EthioLLM-s-70k

Заполнение пропусковТекст → текст3 профессии

Дообученная XLM-RoBERTa для предсказания пропущенных токенов в текстах на нескольких языках Эфиопии и региона.

90скачиваний за 30 дней2лайкавеса обновлены3 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

EthioNLP/EthioLLM-s-70k — дообученная EthioNLP модель на архитектуре XLM-RoBERTa для заполнения пропусков в тексте. Она содержит 167 млн параметров и принимает последовательности длиной до 514 токенов. Модель основана на Davlan/afro-xlmr-small и выпущена в формате PyTorch.

Модель предназначена для предсказания скрытых токенов в текстах на амхарском, тигринья, сомалийском, оромо и геэзе. Её можно применять в языковых задачах, где требуется восстановить пропущенное слово или фрагмент текста. Лицензия — MIT.

Сценарии применения

  • восстановление пропущенных слов в амхарском тексте
  • заполнение масок в текстах на тигринья
  • предсказание скрытых токенов в сомалийском тексте
  • восстановление пропусков в текстах на оромо и геэзе

Ограничения

Модель ориентирована на заполнение масок и не предназначена непосредственно для свободной генерации диалогов. Максимальная длина входа ограничена 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

EthioLLM: Multilingual Large Language Models for Ethiopian Languages with Task Evaluation

Citation Information

@article{tonja2024ethiollm, title={EthioLLM: Multilingual Large Language Models for Ethiopian Languages with Task Evaluation}, author={Tonja, Atnafu Lambebo and Azime, Israel Abebe and Belay, Tadesse Destaw and Yigezu, Mesay Gemeda and Mehamed, Moges Ahmed and Ayele, Abinew Ali and Jibril, Ebrahim Chekol and Woldeyohannis, Michael Melese and Kolesnikova, Olga and Slusallek, Philipp and others}, journal={arXiv preprint arXiv:2403.13737}, year={2024} }

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForMaskedLM
Ревизия весов
4a26fcf

0 моделей