Разреженная языковая модель HGRN на 1,5 млрд параметров для генерации английского текста и экспериментов с высокой разреженностью весов.

Подходит для: генерация продолжения английского текста · эксперименты с разреженными языковыми моделями · сравнение методов pruning на задачах предсказания текста