Экспериментальная англоязычная версия GPT-2 small с шумом в LayerNorm для изучения распределения информации и генерации продолжения текста.

Подходит для: генерация продолжения англоязычного текста · изучение распределения информации между слоями трансформера · анализ влияния шума в LayerNorm на предсказание следующего токена