/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Размер весов
8,1 ГБ
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
22 сен 2026

qwen3-1.7b-sciworld-sft-gpt54mini-ep4

Генерация текстаТекст → текст3 профессии

Дообученная на траекториях учителя Qwen3-1.7B предназначена для генерации ответов и решения заданий в среде ScienceWorld.

350скачиваний за 30 дней1лайквеса обновлены22 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это дообученная методом SFT языковая модель Qwen3-1.7B от SeanWang0027, настроенная на траекториях решения заданий ScienceWorld. Для обучения использованы эпизоды учителя gpt-5.4-mini по 2059 тренировочным заданиям; ответы учителя представлены в формате ChatML. Модель рассчитана на генерацию текста и диалоговое взаимодействие при решении задач в научной виртуальной среде ScienceWorld.

Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 1,7 млрд параметров и поддерживает контекст до 40 960 токенов. В README сообщается результат 15,12% avg@4 на тестовом разделении ScienceWorld; это существенно выше указанного результата базовой Qwen3-1.7B, но ниже приведённого ориентира для онлайн-метода ROSE. Для инференса веса fp32 предлагается загружать в bfloat16. Карточка не указывает лицензию и языки обучающих эпизодов, поэтому их нельзя определить по доступным сведениям.

Сценарии применения

  • решение заданий ScienceWorld в формате диалога
  • генерация последовательности действий и ответов для научной виртуальной среды
  • эксперименты с SFT языковых моделей на траекториях учителя

Ограничения

В тесте ScienceWorld указана успешность 15,12% avg@4, поэтому надёжность выполнения задач ограничена. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B, ScienceWorld, trajectory SFT on gpt-5.4-mini episodes, epoch 4

Trajectory SFT: one row per full teacher episode in ChatML, cross-entropy only on each teacher reply and its <|im_end|>. Data: gpt-5.4-mini (reasoning medium) episodes on the 2059 ScienceWorld train tasks (no test overlap), one per task, nothing filtered. Batch 32, AdamW lr 1e-5, weight decay 0, fp32.

Continued from the 3-epoch checkpoint (qwen3-1.7b-sciworld-sft-gpt54mini-3ep) for 2 more epochs with a fresh optimizer and a fresh cosine schedule (10% warm-up) over those 2 epochs; this is the end of the first of them.

Weights are fp32 (the training precision); load with torch_dtype=bfloat16 for inference.

Test success (avg@4): 15.12% (16.00 / 15.00 / 18.00 / 11.50). ScienceWorld test split (AgentGym, 200 task variations), avg of 4 passes, temperature 0.4, 512 tokens/turn, 30 rounds, thinking off, no system turn. Reference points on the same protocol: base Qwen3-1.7B 0.12%; the same SFT at epoch 2 13.25%, epoch 3 12.88%; online ROSE 10+5 with the same teacher, epoch 5, 25.75%.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
7ae91f9

0 моделей