Диалоговая MoE-модель Grug, дообученная на беседах GLM 5.3 RLVR для генерации текста, рассуждений и вызова инструментов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Snowball GLM 5.3 RLVR SFT — диалоговая MoE-модель семейства Grug, разработанная open-athena. Это дообученный чекпойнт open-athena/Grug-67B-A2B-Datakit-SFT-262K-2026.09.21: модель обучали с учётом только ответов ассистента на 5 000 диалогах GLM 5.3 RLVR, используя последовательности длиной 32 768 токенов и 136 шагов оптимизации.
Модель предназначена для генерации текста в диалоге, рассуждений и сценариев с вызовом инструментов. Она поддерживает контекст до 262 144 токенов и имеет 2,8 млрд параметров; формат весов — safetensors. Лицензия — OpenMDW 1.1, унаследованная от базовой модели.
Карточка сообщает о дообучении на 5 000 диалогах и 136 шагах оптимизации; качество на иных задачах отдельно не описано.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model continues open-athena/Grug-67B-A2B-Datakit-SFT-262K-2026.09.21 with supervised fine-tuning on 5,000 rendered GLM 5.3 RLVR conversations. The run used assistant-only loss, greedy packing into 32,768-token sequences, and 136 optimizer steps on 64 H100 GPUs.
The saved checkpoint is s3://marin-us-east-02a/marin/checkpoints/glm53-rlvr-snowball-sft-2026.09.23/hf/step-135. The model retains the base model's OpenMDW 1.1 license.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Архитектура grug_moe неизвестна transformers в образе рантайма.