Базовая модель Llama с 133,3 млн параметров, обученная на 100 млрд токенов преимущественно кода и предназначенная для дальнейшей настройки и генерации текста.
Подходит для: дообучение компактной языковой модели для генерации кода · эксперименты с тонкой настройкой базовой модели Llama · исследование генерации текста на небольшой авторегрессионной модели