Характеристики

Контекст: 262 144 токена
Параметры: 3,7 млрд
Архитектура: qwen3 · dense
Базовая модель: Qwen3-4B-Instruct-2507
Библиотека: transformers
Опубликована: 1 сен 2026

Ссылки

cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp10-biid8

Генерация текстаТекст → текст4 профессии

Экспериментальный чекпойнт Qwen3-4B, дообученный методом GRPO для генерации кода и решения сложных задач на программирование.

243скачиваний за 30 дней0лайковвеса обновлены2 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это исследовательский контрольный чекпойнт языковой модели Qwen3-4B, дообученный командой, опубликовавшей репозиторий, методом обучения с подкреплением OpenRLHF GRPO. Обучение проводилось напрямую от Qwen/Qwen3-4B-Instruct-2507 без промежуточного SFT на задачах генерации кода; чекпойнт сохранён на шаге 60 и показал лучший результат по pass@8 в рамках этого запуска. Модель предназначена для генерации программ и решения задач на программирование, особенно задач, выбранных как трудные для исходной модели.

Обучение использовало бинарную награду за прохождение тестов, восемь генераций на запрос и ограничение в 4096 новых токенов. Архитектура плотная Qwen3ForCausalLM, размер около 3,7 млрд параметров, формат весов safetensors; контекст — до 262 144 токенов. Карточка не приводит численные метрики качества на отложенной выборке, поэтому преимущество по pass@8 относится только к сравниваемым чекпойнтам этого запуска. Это ранний экспериментальный чекпойнт, а не подтверждённая универсальная модель для кода. Лицензия в предоставленных сведениях не указана.

Сценарии применения

генерация программ по условию задачи
решение алгоритмических задач с проверкой тестами
получение нескольких вариантов решения для pass@8
экспериментальная оценка обучения языковой модели с подкреплением

Ограничения

Численные метрики на отложенной выборке отсутствуют; лучший результат по pass@8 заявлен только среди чекпойнтов данного запуска. Генерация ограничена 4096 новыми токенами в описанном обучении.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp10_biid8 — RL checkpoint (global step 60)

Role in this run: best by pass@8

What it is

An OpenRLHF GRPO reinforcement-learning checkpoint for Qwen3-4B.

Base model: Qwen/Qwen3-4B-Instruct-2507
Seeded from: base Qwen3-4B (no SFT seed — RL applied directly to the base model)
Saved at global step 60 of RL run seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp10_biid8.

What it's best at

This is the best checkpoint by pass@8 so far in this run.

Trained and validated on the cobalt-train ≤2/64 frontier (canonical clean_eval prompts): 1833 train / 112 held-out val problems the base model solved on at most 2 of 64 samples under the iid_canonical@64 hardness scan. Val evals sample at temperature 1.0 (matching the clean_eval frontier eval).

Reward signal: binary code-correctness (1.0 if the generated program passes the problem's tests, otherwise 0.0).

Eval metrics at this checkpoint: not available in the train log.

Where the logs are

Weights & Biases: project eaiexp-paper-final, run name seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp10_biid8.
Local train log: experiments/cobalt_qwen3_4b_ft/rl_runs/qwen3_4b_instruct_2507_cobalt_v1/seeded_rl_base_ramp25_stoppen_gen4k_ep2_ncp10_biid8/openrlhf_train.log

Recipe

Algorithm: GRPO (group-normalized advantages, no KL penalty).
Stop-properly penalty: truncated samples' reward set to -1.0 (ProRL-style anti-truncation shaping).
DAPO overlong penalty: responses in the last 1024 tokens before the cap get an additive penalty ramping to -0.25.
Samples per prompt: 8
Rollout batch size: 128, train batch size: 128
Max new tokens per rollout: 4096
Episodes: 2
Actor learning rate: 1e-06 (constant schedule)

How to load

This checkpoint is the main revision (git branch) of the repo, with the model at the repo root — load it directly, no subfolder:

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp10-biid8", revision="main")
tokenizer = AutoTokenizer.from_pretrained("agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp10-biid8", revision="main")

Or serve with vLLM: vllm serve agurung/cobalt-seeded-rl-base-ramp25-stoppen-gen4k-ep2-ncp10-biid8 --revision main

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: 2bc7b11