Экспериментальный чекпойнт Snowball, дообученный на научных данных для изучения генерации текста и воспроизведения SFT-эксперимента.
712скачиваний за 30 дней0лайковвеса обновлены3 окт 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Экспериментальный архивный чекпойнт Snowball, созданный командой open-athena в ходе Balanced science SFT и сохранённый на шаге оптимизатора 12 891. Это причинная языковая модель архитектуры GrugMoeForCausalLM с разреженной MoE-архитектурой; метаданные указывают 1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов.
Чекпойнт предназначен для исследования дообучения Snowball на научных задачах и воспроизведения эксперимента, а не для широкого применения: результат GPQA-Diamond составил 56,06% против 58,25% у исходной модели Step38. Физический набор данных для обучения загружается и пока неполон, поэтому воспроизводимость ограничена. Применяются исходные условия лицензии базовой модели; в метаданных лицензия обозначена как other.
Сценарии применения
изучение дообучения языковых моделей на научных задачах
сравнение качества научных ответов с исходным чекпойнтом Snowball Step38
воспроизведение эксперимента Balanced science SFT
проверка диалоговой генерации и интерфейса вызова инструментов
Ограничения
Результат на GPQA-Diamond ниже исходного Step38 (56,06% против 58,25%), а авторы не установили широкого улучшения от научного SFT. Исходный набор данных загружается не полностью, что ограничивает воспроизводимость; применяются исходные условия лицензии базовой модели.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Archival Hugging Face export from the Balanced science SFT run at optimizer step 12,891. The run started from Snowball Step38. Its GPQA-Diamond result was 56.06%, versus 58.25% for the Step38 starting model.