Характеристики

Контекст: 4 096 токенов
Параметры: 1,7 млрд
Архитектура: opensci · dense
Библиотека: transformers
Опубликована: 30 мая 2026

Ссылки

Hugging Face

open-sci-ref-v0.02-1.7b-nemotron-hq-1T-4096-rope_theta-100k

open-sci

Генерация текстаТекст → текст3 профессии

Плотная авторегрессионная языковая модель OpenSci на 1,7 млрд параметров для генерации текста и ответов на вопросы.

98скачиваний за 30 дней0лайковвеса обновлены30 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

open-sci-ref-v0.02 — плотная авторегрессионная языковая модель семейства OpenSci на 1,7 млрд параметров, разработанная командой OpenSci. Модель обучена на наборе Nemotron-CC HQ примерно на 1 трлн токенов; в репозитории опубликован финальный чекпойнт, а промежуточные доступны в отдельных ветках. Для генерации текста она принимает текстовый контекст и продолжает его.

Модель обучалась с длиной последовательности 4096 токенов и параметром RoPE theta 100000. В README приведены результаты финального чекпойнта на задачах ARC и BoolQ из набора open-sci-0.01; это указывает на оценку знаний и ответов на вопросы, но не задаёт специализированную область применения. Метаданные указывают формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не приводится.

Сценарии применения

генерация продолжения текста
создание черновиков и фрагментов текста
ответы на вопросы общего характера
оценка языковой модели на тестах ARC и BoolQ

Ограничения

Контекст модели ограничен 4096 токенами; приведённые в README оценки охватывают лишь часть тестового набора. Лицензия и поддерживаемые естественные языки в доступных данных не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

open-sci-ref-v0.02-1.7b-nemotron-hq-1T-4096-rope_theta-100k

1.7B open-sci-ref model trained on Nemotron-CC HQ for 1T tokens (sequence length 4096, RoPE theta = 100000).

The main branch holds the final checkpoint (iter 238419). Intermediate checkpoints (iters 58000-238000, every 2000) are available as branches named iter_XXXXXXX.

Evaluation

Final checkpoint on the open-sci-0.01 suite (lm-eval-harness). Metrics collected with oellm collect-results.

Task	n-shot	Metric	Score
arc_challenge	10	acc_norm	0.5316
arc_easy	10	acc_norm	0.8190
boolq	10	acc	0.7615
commonsense_qa	10	acc	0.6003
copa	0	acc	0.8600
hellaswag	10	acc_norm	0.7440
lambada_openai	0	acc	0.6136
mmlu	5	acc	0.5212
openbookqa	0	acc_norm	0.4360
piqa	10	acc_norm	0.8041
social_iqa	0	acc	0.4458
winogrande	0	acc	0.6606
average			0.6498

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: OpensciForCausalLM
Ревизия весов: 9f7092e