Компактная базовая языковая модель Starpower Technology для экспериментов и генерации научного текста на основе корпуса arXiv.

Подходит для: генерация продолжений заголовков и аннотаций научных статей · эксперименты с предварительным обучением компактных языковых моделей · исследование архитектур Mixture-of-Experts на малом числе параметров