Небольшая базовая англоязычная модель SupraLabs для экспериментов с предобучением и отправной точки для дальнейшего дообучения.
Подходит для: эксперименты с предобучением малых языковых моделей · изучение влияния масштаба модели и состава данных · дообучение на инструкциях