Модель SciBERT на архитектуре Longformer для заполнения пропусков в длинных англоязычных научных текстах с контекстом до 4096 токенов.
Подходит для: предсказание пропущенных слов в научных статьях · языковое моделирование длинных научных документов · анализ контекста фрагментов полной научной статьи