abena-base-asante-twi-uncased
ABENA — BERT-модель Ghana NLP для заполнения пропусков и построения языковых признаков на языке Asante Twi.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Ghana-NLP/abena-base-asante-twi-uncased — модель семейства ABENA, разработанная Ghana NLP для языка Asante Twi, диалекта Akan. Она создана на основе multilingual BERT и дополнительно дообучена на данных Библии на Asante Twi; модель предназначена для задач языкового анализа и последующей адаптации под приложения для ганских языков.
Модель использует архитектуру BERT с задачей masked language modeling и предназначена прежде всего для заполнения пропусков в тексте. Согласно метаданным, она содержит около 205,1 млн параметров и поддерживает контекст до 512 токенов; доступны реализации для Transformers, PyTorch, TensorFlow и JAX. Модель uncased, то есть не различает регистр.
Её можно применять как базовую языковую модель для дообучения и извлечения контекстных признаков в задачах NER, анализа тональности, определения частей речи и машинного перевода. Основные ограничения связаны с узкой языковой специализацией, режимом masked language modeling и ограниченным объёмом доменных данных, использованных для варианта Asante Twi. Лицензия в доступных источниках не установлена.
Сценарии применения
- заполнение пропущенных слов в текстах на Asante Twi
- извлечение контекстных признаков для классификации текстов
- дообучение для распознавания именованных сущностей
- дообучение для анализа тональности
- определение частей речи в текстах на Asante Twi
- исследование и разработка NLP-приложений для ганских языков
Ограничения
Модель предназначена для Asante Twi и работает в режиме masked language modeling, поэтому не является универсальной генеративной моделью. Вариант uncased не различает регистр, а дообучение на ограниченных данных может снижать качество вне соответствующих языковых и тематических условий.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- BertForMaskedLM
- Ревизия весов
- 861f3ed