Характеристики

Контекст: 262 144 токена
Параметры: 3,7 млрд
Архитектура: qwen3 · dense
Базовая модель: Qwen3-4B-Instruct-2507
Библиотека: transformers
Опубликована: 3 сен 2026

Ссылки

Hugging Face

cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp10-base-b20m

agurung

Генерация текстаТекст → текст4 профессии

Чекпойнт Qwen3-4B, дообученный с подкреплением для генерации кода и решения сложных задач программирования.

113скачиваний за 30 дней0лайковвеса обновлены3 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это исследовательский чекпойнт Qwen3-4B, созданный командой agurung методом обучения с подкреплением OpenRLHF GRPO на базе Qwen/Qwen3-4B-Instruct-2507. Обучение проводилось непосредственно от базовой модели, без отдельного этапа SFT; в карточке указано, что сохранён шаг 8 и это лучший на данный момент чекпойнт запуска по pass@8.

Модель предназначена для генерации кода и решения задач программирования. Её обучали на задачах, которые исходная модель решала редко, с бинарной наградой за прохождение тестов программы и штрафами за усечение длинных ответов. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 262 144 токенов. Карточка не приводит итоговые метрики этого чекпойнта, поэтому преимущество по pass@8 отражает сравнение внутри данного запуска, а не подтверждённое общее качество. Доступные сведения не называют лицензию модели.

Сценарии применения

генерация программ для задач с проверочными тестами
решение задач по программированию с редкими успешными ответами исходной модели
эксперименты с обучением языковых моделей кода методом GRPO

Ограничения

Итоговые метрики чекпойнта в карточке отсутствуют; отметка о лучшем pass@8 относится только к этому запуску обучения. Лицензия в предоставленных сведениях не указана.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp10_base_b20m — RL checkpoint (global step 8)

Role in this run: best by pass@8

What it is

An OpenRLHF GRPO reinforcement-learning checkpoint for Qwen3-4B.

Base model: Qwen/Qwen3-4B-Instruct-2507
Seeded from: base Qwen3-4B (no SFT seed — RL applied directly to the base model)
Saved at global step 8 of RL run seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp10_base_b20m.

What it's best at

This is the best checkpoint by pass@8 so far in this run.

Trained and validated on the cobalt-train ≤2/64 frontier (canonical clean_eval prompts): 1833 train / 112 held-out val problems the base model solved on at most 2 of 64 samples under the iid_canonical@64 hardness scan. Val evals sample at temperature 1.0 (matching the clean_eval frontier eval).

Reward signal: binary code-correctness (1.0 if the generated program passes the problem's tests, otherwise 0.0).

Eval metrics at this checkpoint: not available in the train log.

Where the logs are

Weights & Biases: project eaiexp-paper-final, run name seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp10_base_b20m.
Local train log: experiments/cobalt_qwen3_4b_ft/rl_runs/qwen3_4b_instruct_2507_cobalt_v1/seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp10_base_b20m/openrlhf_train.log

Recipe

Algorithm: GRPO (group-normalized advantages, no KL penalty).
Stop-properly penalty: truncated samples' reward set to -1.0 (ProRL-style anti-truncation shaping).
DAPO overlong penalty: responses in the last 1024 tokens before the cap get an additive penalty ramping to -0.25.
Samples per prompt: 8
Rollout batch size: 128, train batch size: 128
Max new tokens per rollout: 4096
Episodes: 2
Actor learning rate: 1e-06 (constant schedule)

How to load

This checkpoint is the main revision (git branch) of the repo, with the model at the repo root — load it directly, no subfolder:

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp10-base-b20m", revision="main")
tokenizer = AutoTokenizer.from_pretrained("agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp10-base-b20m", revision="main")

Or serve with vLLM: vllm serve agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp10-base-b20m --revision main

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: 126ef22