Предварительно дообученная на монолингвистических данных языковая модель LLaMA-2 на 13 млрд параметров, служащая основой для дальнейшей настройки ALMA.
Подходит для: Продолжение текста на основе контекста · Эксперименты с промежуточным этапом обучения ALMA · Дальнейшая настройка языковой модели с помощью LoRA-адаптера