LLaDA-8B-Base — базовая языковая модель семейства LLaDA, разработанная командой GSAI-ML и обученная с нуля. Это плотная модель на 8 млрд параметров, использующая диффузионный подход к генерации текста; репозиторий содержит веса в формате Safetensors и поддерживает Transformers.

Модель предназначена для генерации текста и может служить базой для диалоговых сценариев и дальнейшей адаптации. В карточке заявлено, что по результатам разработчиков она сопоставима по качеству с LLaMA 3 8B. Данных о поддерживаемых языках и длине контекста в предоставленных источниках нет.

Модель распространяется по лицензии MIT. Карточка сообщает об обновлении кода для поддержки attention_mask, но не приводит подробных ограничений или результатов оценки для отдельных задач.