Компактная англоязычная BERT-модель предсказывает замаскированные слова и предназначена для оценки BabyLM и экспериментов с семантическим cloze.

Подходит для: оценка предсказания пропущенных слов в английских предложениях · воспроизведение эксперимента semantic cloze для BabyLM · сравнение masked language models на тестах BabyLM