Характеристики

Контекст: 40 960 токенов
Параметры: 3,7 млрд
Размер весов: 8,8 ГБ
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-4B
Библиотека: transformers
Опубликована: 3 июл 2026

Ссылки

Hugging Face

Qwen3-4B-Materials-SDPO-TR

SeongryongJung

Генерация текстаТекст → текст3 профессии

Экспериментальный чекпойнт Qwen3-4B, дообученный SDPO-TR на Materials для генерации текста в задачах материаловедения.

9скачиваний за 30 дней0лайковвеса обновлены3 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SeongryongJung/Qwen3-4B-Materials-SDPO-TR — экспериментальный чекпойнт Qwen3-4B, обученный методом SDPO-TR на наборе Materials с размером обучающего батча 32. В репозитории размещён лучший по валидационной метрике mean@16 чекпойнт на шаге 30, а в checkpoints/last/ — финальный чекпойнт на шаге 100.

Модель предназначена для генерации текста и экспериментальных задач обучения с подкреплением в области материаловедения. В README приведён результат валидации mean@16: 71,48% у выбранного лучшего чекпойнта и 58,11% у финального; описание не уточняет протокол метрики и содержание тестовых запросов. Архитектура — плотная причинно-языковая Qwen3ForCausalLM примерно на 3,7 млрд параметров, контекст — до 40 960 токенов. Метаданные указывают библиотеку Transformers и формат safetensors. Базовая модель — Qwen/Qwen3-4B.

Модель принимает текст и выдаёт текст; языковая поддержка наследуется от Qwen3-4B, однако отдельный перечень языков для этого чекпойнта не приведён. Лицензия — Apache-2.0. Это экспериментальный обучающий запуск, а приведённые результаты относятся к валидации и сами по себе не гарантируют качество на новых задачах.

Сценарии применения

генерация ответов на экспериментальные запросы по набору Materials
сравнение чекпойнтов SDPO-TR по метрике mean@16
исследование обучения языковых моделей с подкреплением для материаловедения

Ограничения

Результаты mean@16 приведены только для валидации набора Materials, а описание не раскрывает протокол метрики и её переносимость на другие задачи. Лучший чекпойнт и финальный чекпойнт заметно различаются по указанной валидационной оценке.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделей IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-4B-Materials-SDPO-TR

This repository contains the Qwen3-4B Materials SDPO-TR run trained with batch size 32.

The repository root contains the best validation checkpoint (global_step_30), selected by validation mean@16. checkpoints/last/ contains the final checkpoint.

Performance

Dataset	Method	Base model	Train batch size	Best val mean@16	Best checkpoint	Final val mean@16	Final checkpoint
Materials	SDPO-TR	Qwen3-4B	32	71.48%	30	58.11%	100

Training and validation scores

Raw result files:

results/validation_mean16.csv
results/training_scores.csv
artifacts/config.yaml
artifacts/wandb-summary.json

Training Hyperparameters

Hyperparameter	Value
Base model	`Qwen/Qwen3-4B`
Method	`SDPO-TR`
Train batch size	`32`
Train max samples	`3200`
Total training steps	`100`
Save frequency	`10`
Test frequency	`10`
Teacher regularization	`trust-region`
Teacher update rate	`0.1`
Rollout samples per prompt	`8`
Validation samples per prompt	`16`
Learning rate	`1e-5`
vLLM GPU memory utilization	`0.8`

Usage

from transformers import AutoModelForCausalLM, AutoTokenizer

repo_id = "SeongryongJung/Qwen3-4B-Materials-SDPO-TR"
tokenizer = AutoTokenizer.from_pretrained(repo_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    repo_id,
    torch_dtype="auto",
    device_map="auto",
    trust_remote_code=True,
)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: f757874

Характеристики

Ссылки

Qwen3-4B-Materials-SDPO-TR

Бенчмарки

Тесты пользователейпока нет

Добавьте модель в бенчмарк

Опишите свои задачи

Запустите и опубликуйте

Публичные оценки

Что умеет модель

Сценарии применения

Ограничения

Для каких профессий подходит3

Карточка модели

Qwen3-4B-Materials-SDPO-TR

Performance

Training Hyperparameters

Usage

Как запустить