/ Модель

Характеристики

Контекст
262 144 токена
Параметры
1 млрд
Размер весов
134 ГБ
Лицензия
openmdw-1.1
Архитектура
grug_moe · MoE
Опубликована
3 окт 2026

Grug-67B-A2B-Dr-Doom-Science-SFT-Step5989-2026.10.02

Генерация текстаТекст → текст

Архивный чекпойнт Grug MoE, дообученный на синтетических научных диалогах для генерации текста, но показавший серьёзное ухудшение на профильных тестах.

618скачиваний за 30 дней0лайковвеса обновлены4 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Экспериментальная модель open-athena/Grug-67B-A2B-Dr-Doom-Science-SFT-Step5989 — итоговый экспорт двухэтапного дообучения для научных диалогов, выполненного поверх Dr. Doom на 3 477 625 синтетических научных беседах. Это архивный исследовательский чекпойнт с архитектурой Grug MoE для генерации текста; поддерживает контекст до 262 144 токенов и интерфейсы чата и вызова инструментов.

Модель предназначалась для научных вопросов и ответов, однако эксперимент показал существенное ухудшение результатов: GPQA-Diamond снизился с 53,87% до 28,62%, а оценка OlympiadBench — с 16,21% до 0,67%. Поэтому чекпойнт не рекомендуется как замена исходной модели. Репозиторий содержит веса safetensors и распространяется по лицензии OpenMDW-1.1; обучающий синтетический набор данных остаётся закрытым до проверки лицензий источников и производных материалов.

Сценарии применения

  • экспериментальная генерация ответов на научные вопросы
  • изучение влияния синтетических научных диалогов на качество модели
  • воспроизведение и анализ регрессий на GPQA-Diamond и OlympiadBench

Ограничения

На GPQA-Diamond результат снизился с 53,87% до 28,62%, а на OlympiadBench — с 16,21% до 0,67%; авторы не рекомендуют использовать этот чекпойнт как замену исходной модели. Обучающий синтетический набор данных закрыт до проверки лицензий источников и производных материалов.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Dr Doom science SFT, step 5,989

This is the final Hugging Face export of the two-epoch October 2026 science SFT continuation. It started from Dr Doom and trained on 3,477,625 synthetic science conversations. The model is preserved as a negative experimental result: GPQA-Diamond fell from 53.87% to 28.62%, and policy-regraded OlympiadBench fell from 16.21% to 0.67%.

The experiment issue summarizes the findings and limitations. The public report archive contains the paired evaluation records, W&B history, audit, and configurations. Draft Marin PR #9718 preserves the training and export code. The synthetic training dataset remains private pending source and derivative license review.

This checkpoint is an archival research artifact. The evaluation regressions make it unsuitable as a recommended replacement for its starting model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Нельзя запустить

Архитектура grug_moe неизвестна transformers в образе рантайма.

Класс архитектуры
GrugMoeForCausalLM
Ревизия весов
3d55629

0 моделей