Небольшая экспериментальная looped transformer-модель для генерации англоязычного текста, обученная на ограниченном объёме FineWeb.

Подходит для: эксперименты с циклическими трансформерами · генерация продолжений англоязычного текста · сравнение качества языковых моделей при разной глубине инференса