Характеристики

Контекст: 262 144 токена
Архитектура: nemotron_h · dense
Базовая модель: Qwen3-4B-Instruct-2507
Библиотека: transformers
Опубликована: 6 окт 2026

Ссылки

cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp5-n3nc-groot16

Генерация текстаТекст → текст

Экспериментальный чекпойнт Qwen3-4B, дообученный методом GRPO для генерации кода и решения задач с проверкой программ тестами.

1 641скачиваний за 30 дней1лайквеса обновлены10 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальный контрольный чекпойнт языковой модели для генерации кода, созданный на базе Qwen/Qwen3-4B-Instruct-2507. Его разработали с помощью OpenRLHF и алгоритма обучения с подкреплением GRPO: обучение началось непосредственно с базовой модели, без предварительного SFT-дообучения. В README этот чекпойнт назван лучшим в конкретном экспериментальном запуске по pass@8; метрики оценки для него не приведены.

Модель предназначена для генерации программ, решающих задачи из набора cobalt-train, с проверкой результата тестами. Обучение использовало бинарную награду за корректность кода, восемь генераций на задачу и ограничение в 4096 новых токенов на генерацию. Архитектура в метаданных указана как плотная NemotronHForCausalLM; веса доступны в формате safetensors, библиотека загрузки — Transformers. Контекст модели — до 262 144 токенов.

Карточка не указывает языки программирования и естественные языки, поэтому они не перечисляются. Это исследовательский чекпойнт, рассчитанный на кодовые задачи из конкретного эксперимента; преимущество по pass@8 относится только к сравнению внутри этого запуска. Лицензия в предоставленных данных не указана.

Сценарии применения

генерация кода для задач с автоматическими тестами
поиск решений для задач из набора cobalt-train
сравнение стратегий обучения кода с подкреплением
эксперименты с GRPO для генерации программ

Ограничения

Метрики оценки для этого чекпойнта в карточке отсутствуют, а заявленное преимущество по pass@8 ограничено конкретным экспериментальным запуском и набором задач. Языки программирования и лицензия в предоставленных данных не указаны.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp5_n3nc_groot16 — RL checkpoint (global step 110)

Role in this run: best by pass@8

What it is

An OpenRLHF GRPO reinforcement-learning checkpoint for Qwen3-4B.

Base model: Qwen/Qwen3-4B-Instruct-2507
Seeded from: base Qwen3-4B (no SFT seed — RL applied directly to the base model)
Saved at global step 110 of RL run seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp5_n3nc_groot16.

What it's best at

This is the best checkpoint by pass@8 so far in this run.

Trained and validated on the cobalt-train ≤2/64 frontier (canonical clean_eval prompts): 1833 train / 112 held-out val problems the base model solved on at most 2 of 64 samples under the iid_canonical@64 hardness scan. Val evals sample at temperature 1.0 (matching the clean_eval frontier eval).

Reward signal: binary code-correctness (1.0 if the generated program passes the problem's tests, otherwise 0.0).

Eval metrics at this checkpoint: not available in the train log.

Where the logs are

Weights & Biases: project eaiexp-paper-final, run name seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp5_n3nc_groot16.
Local train log: experiments/cobalt_qwen3_4b_ft/rl_runs/qwen3_4b_instruct_2507_cobalt_v1/seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp5_n3nc_groot16/openrlhf_train.log

Recipe

Algorithm: GRPO (group-normalized advantages, no KL penalty).
Stop-properly penalty: truncated samples' reward set to -1.0 (ProRL-style anti-truncation shaping).
DAPO overlong penalty: responses in the last 1024 tokens before the cap get an additive penalty ramping to -0.25.
Samples per prompt: 8
Rollout batch size: 128, train batch size: 128
Max new tokens per rollout: 4096
Episodes: 2
Actor learning rate: 1e-06 (constant schedule)

How to load

This checkpoint is the main revision (git branch) of the repo, with the model at the repo root — load it directly, no subfolder:

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp5-n3nc-groot16", revision="main")
tokenizer = AutoTokenizer.from_pretrained("agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp5-n3nc-groot16", revision="main")

Or serve with vLLM: vllm serve agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp5-n3nc-groot16 --revision main

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: NemotronHForCausalLM
Ревизия весов: 8e5c40f