Характеристики

Контекст: 262 144 токена
Параметры: 3,7 млрд
Размер весов: 8 ГБ
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-4B-Instruct-2507
Библиотека: transformers
Опубликована: 26 авг 2026

Ссылки

qwen3-4b-healthbench-static-r0-step-000

Генерация текстаТекст → текст3 профессии

Экспериментальный начальный чекпойнт Qwen3-4B для изучения обучения языковой модели на статических рубриках HealthBench.

43скачиваний за 30 дней0лайковвеса обновлены26 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

HYU-NLP-EVAL публикует экспериментальный чекпойнт Qwen3-4B HealthBench Static-Rubric R0 — начальное состояние pi_0 до обновлений оптимизатора RL. Это плотная авторегрессионная языковая модель Qwen3 с 3,7 млрд параметров, дообученная на базе Qwen/Qwen3-4B-Instruct-2507 полным обновлением параметров; веса сохранены в BF16 и формате safetensors. Модель предназначена для эксперимента по изучению устаревания прокси-рубрик при оптимизации политики: обучение задано на 256 запросах HealthBench с замороженными рубриками R0 для каждого запроса. Поддерживается генерация текста и диалоговый режим; базовая модель рассчитана на контекст до 262 144 токенов.

Чекпойнт опубликован для исследовательских экспериментов, а не как готовая медицинская система. Улучшение вознаграждения по статическим рубрикам само по себе не доказывает улучшения относительно независимой эталонной оценки HealthBench. Модель не заменяет профессиональную медицинскую консультацию. Лицензия — Apache-2.0.

Сценарии применения

изучение устаревания статических рубрик при оптимизации политики
сравнение начального чекпойнта с последующими этапами RL-обучения
эксперименты с оценкой ответов на медицинские запросы по рубрикам HealthBench

Ограничения

Это начальный чекпойнт до обновлений RL-оптимизатора; повышение оценки по замороженным рубрикам не подтверждает качество по независимой эталонной оценке HealthBench. Модель не является медицинским устройством и не заменяет профессиональную медицинскую консультацию.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.9Разработка и данныеСтатистика, эксперименты и причинный анализAI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах.18 задач2 881модель II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-4B HealthBench Static-Rubric R0 — Step 0

This is the initialization checkpoint (pi_0), before any RL optimizer update.

This model belongs to the static-rubric R0 experiment, not a dynamic-rubric training run. Training rewards use a frozen, prompt-specific rubric bank: each training prompt is scored with its own R0(x) throughout optimization.

Provenance

Run ID: pilot-static-r0-100step-20260821
Optimizer step: 0
Base model: Qwen/Qwen3-4B-Instruct-2507
Base revision: cdbee75f17c01a7cc42f958dc650907174af0554
Reward source: static_r0_only
Policy training split: 256 HealthBench prompts
Parameterization: full-model RL
Export dtype: BF16
Original format: VERL FSDP v1, world size 1, FP32 state dict

Loading

from transformers import AutoModelForCausalLM, AutoTokenizer

repo_id = "HYU-NLP-EVAL/qwen3-4b-healthbench-static-r0-step-000"
tokenizer = AutoTokenizer.from_pretrained(repo_id)
model = AutoModelForCausalLM.from_pretrained(repo_id, torch_dtype="bfloat16")

Intended use and limitations

This is a research checkpoint for studying proxy-rubric staleness during policy optimization. It is not a medical device and must not be used as a substitute for professional medical advice. Static-rubric reward improvement does not by itself establish improvement against independent HealthBench ground truth.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: 22ec251