Компактная модель GPT-2 на 124 млн параметров, дистиллированная из Mistral-7B-Instruct-v0.2 для продолжения текста по промпту.

Подходит для: генерация продолжения короткого текста · эксперименты с дистилляцией языковых моделей · сравнение компактной модели с исходным GPT-2 на WikiText-2