Характеристики
- Контекст
- 512 токенов
- Параметры
- 138 млн
- Архитектура
- bert · dense
- Опубликована
- 21 сен 2022
Ссылки
bert-base-standard-bahasa-cased
Малайскоязычная модель BERT от Mesolitica для предсказания пропущенных токенов в тексте.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
mesolitica/bert-base-standard-bahasa-cased — текстовая модель BERT для языка Bahasa, опубликованная разработчиком Mesolitica. Это модель заполнения пропусков: по тексту с маскированным токеном она предсказывает подходящие варианты. Карточка Hugging Face указывает архитектуру BERT с головой masked language modeling, 137,8 млн параметров и контекст до 512 токенов; модель доступна для PyTorch и Transformers.
Модель подходит для восстановления пропущенных слов и языковых задач на малайском языке, включая использование как базовой модели для последующей адаптации. Поддерживает регистр символов. Данных о лицензии в доступных источниках нет, поэтому условия распространения здесь не уточняются.
Сценарии применения
- подбор слова вместо маскированного токена в малайском тексте
- восстановление пропусков в предложениях на Bahasa
- получение кандидатов для исправления текста на малайском языке
Ограничения
Предназначена для предсказания маскированных токенов, а не для генерации свободного текста или диалогов. Доступные источники не сообщают лицензию и результаты оценки качества.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- BertForMaskedLM
- Ревизия весов
- 7e5ef50