Bertinho-gl-small-cased
A pre-trained BERT model for Galician (6layers,cased). Trained on Wikipedia.
bertinho-gl-small-cased
Заполнение пропусковТекст → текст
Компактная предварительно обученная BERT-модель для галисийского языка, предназначенная для предсказания замаскированных слов в тексте.
88скачиваний за 30 дней2лайкавеса обновлены19 мая 2021
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Bertinho-gl-small-cased — предварительно обученная модель семейства BERT для галисийского языка, представленная разработчиком dvilares. Это компактный вариант с 6 слоями и примерно 79,7 млн параметров, обученный на Википедии. Модель предназначена для заполнения пропусков в тексте: она предсказывает замаскированный токен с учётом окружающего контекста и подходит для языковых задач на галисийском языке.
Поддерживает регистр букв и обрабатывает последовательности длиной до 512 токенов. Доступны веса в форматах PyTorch и Flax. Лицензия в предоставленных данных не указана.
Сценарии применения
- заполнение пропусков в галисийских текстах
- предсказание замаскированного слова в предложении
- оценка языковых вариантов для галисийского текста
Ограничения
Модель обучена на Википедии, поэтому её представление языка может быть ограничено этим источником. Контекст ограничен 512 токенами.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- BertForMaskedLM
- Ревизия весов
- 2f3b8f4