Экспериментальный вариант GPT-2 Small с отключёнными блоками LayerNorm для продолжения текста и исследования поведения трансформеров.
Подходит для: генерация продолжения текста по промпту · сравнение языковых моделей с LayerNorm и без неё · изучение влияния удаления LayerNorm при инференсе