LLaDA-8B-Instruct
We introduce LLaDA, a diffusion model with an unprecedented 8B scale, trained entirely from scratch, rivaling LLaMA3 8B in performance.
Updates
[2025-10-21] We have modified modeling_llada.py to support the input of attention_mask.
Диалоговая диффузионная языковая модель на 8 млрд параметров для генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
TIGER-Lab/MMLU-Pro
score · выше — лучше
37
Публичная таблицаревизия не подтверждена
Описание составлено по карточке модели и метаданным Hugging Face
LLaDA-8B-Instruct — диффузионная языковая модель с плотной архитектурой LLaDA, разработанная командой GSAI-ML и обученная с нуля. Модель содержит 8 млрд параметров и предназначена для генерации текста в диалоговом режиме.
Авторы сообщают, что по результатам их оценки модель сопоставима по производительности с LLaMA 3 8B. Веса опубликованы в формате safetensors; модель работает через библиотеку Transformers и распространяется по лицензии MIT. Данных о поддерживаемых естественных языках и длине контекста в предоставленной карточке нет.
В карточке приведено только общее заявление авторов о сопоставимости с LLaMA 3 8B; подробные результаты оценки и ограничения не описаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
We introduce LLaDA, a diffusion model with an unprecedented 8B scale, trained entirely from scratch, rivaling LLaMA3 8B in performance.
[2025-10-21] We have modified modeling_llada.py to support the input of attention_mask.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.