FNet-base — англоязычная предобученная модель для понимания текста и извлечения признаков, предназначенная прежде всего для дообучения под прикладные задачи.
Подходит для: предсказание замаскированных слов в английском тексте · классификация английских предложений и последовательностей · разметка токенов в английском тексте после дообучения