Небольшая GPT-2 модель, обученная на ограниченном англоязычном корпусе BabyLM для исследований усвоения языка и sample efficiency.

Подходит для: исследование усвоения языка на ограниченном корпусе · генерация английского текста для экспериментов с языковыми моделями · сравнение качества обучения на малых объёмах данных