/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Размер весов
8,1 ГБ
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
22 сен 2026

qwen3-1.7b-sciworld-sft-gpt54mini-ep6

Генерация текстаТекст → текст3 профессии

Дообученная на траекториях ScienceWorld модель Qwen3-1.7B для генерации текста и решения задач научной среды.

363скачиваний за 30 дней0лайковвеса обновлены22 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SeanWang0027/Qwen3-1.7B-sciworld-sft-gpt54mini-ep6 — дообученная методом trajectory SFT модель Qwen3-1.7B от SeanWang0027 для текстовой генерации и выполнения задач в среде ScienceWorld. Она обучена на полных траекториях эпизодов, созданных gpt-5.4-mini, по 2059 обучающим задачам ScienceWorld; тестовых задач в обучающих данных не было. Обучение продолжали с эпохи 5, а указанный чекпойнт соответствует концу первой из трёх дополнительных эпох.

Модель имеет плотную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров и контекст до 40 960 токенов. Репозиторий содержит веса safetensors в fp32; в README для инференса рекомендуется загружать их с точностью bfloat16. Основной сценарий — генерация текстовых ответов и действий агента в задачах ScienceWorld. Лицензия в предоставленных данных не обозначена.

Качество на тестовом наборе ScienceWorld для этого чекпойнта не оценивалось, поэтому его результативность относительно других вариантов неизвестна. В README приведены результаты базовой модели, более ранних эпох и другого метода обучения, но они не являются оценкой данного чекпойнта.

Сценарии применения

  • генерация ответов агента в задачах ScienceWorld
  • выполнение текстовых инструкций в научной симуляции
  • исследование дообучения языковых моделей на траекториях учителя

Ограничения

Тестовое качество этого чекпойнта в README не оценивалось. Данные описывают обучение на ScienceWorld и не подтверждают качество модели для других сценариев.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B, ScienceWorld, trajectory SFT on gpt-5.4-mini episodes, epoch 6

Trajectory SFT: one row per full teacher episode in ChatML, cross-entropy only on each teacher reply and its <|im_end|>. Data: gpt-5.4-mini (reasoning medium) episodes on the 2059 ScienceWorld train tasks (no test overlap), one per task, nothing filtered. Batch 32, AdamW lr 1e-5, weight decay 0, fp32.

Continued from epoch 5 for 3 more epochs (fresh optimizer, fresh cosine with 10% warm-up over epochs 6-8; one GPU, micro-batch 2, global batch 32); end of the first.

Weights are fp32 (the training precision); load with torch_dtype=bfloat16 for inference.

Test success (avg@4): not evaluated. ScienceWorld test split (AgentGym, 200 task variations), avg of 4 passes, temperature 0.4, 512 tokens/turn, 30 rounds, thinking off, no system turn. Reference points on the same protocol: base Qwen3-1.7B 0.12%; the same SFT at epoch 2 13.25%, epoch 3 12.88%; online ROSE 10+5 with the same teacher, epoch 5, 25.75%.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
7c7228d

0 моделей