/ Модель

Характеристики

Контекст
262 144 токена
Параметры
3,7 млрд
Размер весов
8 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-4B-Instruct-2507
Библиотека
transformers
Опубликована
26 авг 2026

qwen3-4b-healthbench-static-r0-step-010

Генерация текстаТекст → текст3 профессии

Экспериментальный чекпойнт Qwen3, дообученный RL на медицинских запросах с фиксированными рубриками для изучения их влияния на оптимизацию ответов.

23скачиваний за 30 дней0лайковвеса обновлены26 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальный контрольный чекпойнт HYU-NLP-EVAL для изучения обучения языковой модели на медицинских запросах с фиксированными оценочными рубриками. Модель основана на Qwen/Qwen3-4B-Instruct-2507: плотная Qwen3 с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Она принимает текст и генерирует текст; контекстное окно — до 262 144 токенов.

Чекпойнт получен полносвязным RL-дообучением базовой модели: это шаг 10 из эксперимента static-rubric R0, обученного на 256 запросах HealthBench. В отличие от динамической схемы, каждому запросу на протяжении оптимизации соответствовала своя замороженная рубрика. Модель может быть полезна для анализа влияния устаревания таких рубрик на оптимизацию политики и для изучения ответов на медицинские запросы.

Это ранний исследовательский чекпойнт, а не готовая медицинская система. Улучшение награды по фиксированной рубрике само по себе не подтверждает качество по независимой оценке HealthBench; модель не заменяет профессиональную медицинскую консультацию. Веса опубликованы в формате Safetensors, экспортированы в BF16. Лицензия — Apache-2.0.

Сценарии применения

  • изучение RL-оптимизации ответов на медицинские запросы
  • анализ влияния фиксированных оценочных рубрик на поведение модели
  • сравнение обучения с замороженными рубриками в экспериментах HealthBench

Ограничения

Это исследовательский чекпойнт на раннем шаге обучения; улучшение по фиксированной рубрике не подтверждает качество на независимой оценке HealthBench. Модель не является медицинским устройством и не заменяет профессиональную медицинскую консультацию.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-4B HealthBench Static-Rubric R0 — Step 10

This checkpoint is pi_10, after 10 static-rubric RL optimizer updates.

This model belongs to the static-rubric R0 experiment, not a dynamic-rubric training run. Training rewards use a frozen, prompt-specific rubric bank: each training prompt is scored with its own R0(x) throughout optimization.

Provenance

  • Run ID: pilot-static-r0-100step-20260821
  • Optimizer step: 10
  • Base model: Qwen/Qwen3-4B-Instruct-2507
  • Base revision: cdbee75f17c01a7cc42f958dc650907174af0554
  • Reward source: static_r0_only
  • Policy training split: 256 HealthBench prompts
  • Parameterization: full-model RL
  • Export dtype: BF16
  • Original format: VERL FSDP v1, world size 1, FP32 state dict

Loading

from transformers import AutoModelForCausalLM, AutoTokenizer

repo_id = "HYU-NLP-EVAL/qwen3-4b-healthbench-static-r0-step-010"
tokenizer = AutoTokenizer.from_pretrained(repo_id)
model = AutoModelForCausalLM.from_pretrained(repo_id, torch_dtype="bfloat16")

Intended use and limitations

This is a research checkpoint for studying proxy-rubric staleness during policy optimization. It is not a medical device and must not be used as a substitute for professional medical advice. Static-rubric reward improvement does not by itself establish improvement against independent HealthBench ground truth.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
6fae636

0 моделей