Model Card for Model ID
A LLM trained from scratch on bulgarian data. The model and the model's tokenizer are trained from scratch on bulgarian data from the chitanka dataset.
Metrics
Perprelixty - 6.75
Характеристики
- Контекст
- 512 токенов
- Параметры
- 95,2 млн
- Лицензия
- MIT
- Архитектура
- bert · dense
- Библиотека
- transformers
- Опубликована
- 21 сен 2023
Ссылки
BulBERT-chitanka-model
Заполнение пропусковТекст → текст
Русское описание этой модели ещё готовится. Пока можно заглянуть в карточку модели от автора ниже.
9скачиваний за 30 дней1лайквеса обновлены5 дек 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers · fill-mask
Подбираем GPU…
- Класс архитектуры
- BertForMaskedLM
- Ревизия весов
- 9d7b869