/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Размер весов
4,1 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
20 сен 2026

qwen3-1.7b-alfworld-sft-qwen3-32b-3ep-ep2

Генерация текстаТекст → текст3 профессии

Промежуточный чекпойнт Qwen3-1.7B, дообученный на траекториях учителя для экспериментов с многоходовым агентом в ALFWorld.

162скачиваний за 30 дней0лайковвеса обновлены20 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3-1.7B-ALFWorld-SFT — экспериментальный чекпойнт модели Qwen3-1.7B, созданный методом trajectory SFT на траекториях эпизодов ALFWorld, сгенерированных Qwen3-32B. Модель обучалась выдавать ответы учителя в многоходовом формате ReAct: получать инструкцию и наблюдения среды, затем формировать рассуждение и действие. Это промежуточный чекпойнт второго из трёх эпох; сохранён в формате bf16, репозиторий использует safetensors и библиотеку Transformers.

Модель предназначена для экспериментов с агентами, взаимодействующими с текстовой средой ALFWorld, и для сравнения обучения по траекториям учителя с другими методами дистилляции и обучения агентов. Размер — 1,7 млрд параметров, базовая модель имеет контекст до 40 960 токенов. В README результаты этого чекпойнта не оценены, поэтому его успешность в задачах среды не установлена.

Лицензия — Apache-2.0. Чекпойнт содержит неотфильтрованные траектории, включая неуспешные эпизоды; это промежуточная версия расписания обучения, и README не приводит отдельной оценки её качества.

Сценарии применения

  • эксперименты с агентом ReAct в текстовой среде ALFWorld
  • генерация действий по инструкциям и наблюдениям среды
  • сравнение обучения агента по траекториям учителя
  • исследование дистилляции поведения многоходового агента

Ограничения

Этот чекпойнт второго этапа не оценивался на тестовом наборе ALFWorld, поэтому его результативность неизвестна. При обучении использовались также неуспешные эпизоды учителя.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B · ALFWorld · trajectory SFT on Qwen3-32B rollouts — epoch 2 of 3

Student: Qwen/Qwen3-1.7B. Part of a study comparing teacher-trajectory SFT, online multi-turn ROSE and on-policy distillation for multi-turn agents.

Training

Trajectory SFT: one row per full teacher episode in ChatML, cross-entropy only on each teacher reply and its <|im_end|> (observations, instruction and assistant header are context). Batch 32, AdamW lr 1e-5, weight decay 0, cosine schedule with 10% warmup, fp32 training. Nothing filtered: failed episodes are included. Data: 2420 training games played by Qwen3-32B (teacher success 55.70%). One 3-epoch run (225 steps, cosine over all 225); this is step 150. Stored in bf16.

Evaluation

ALFWorld test split (AgentGym, 200 games), avg of 4 passes, temperature 0.4, 512 tokens/turn, 30 rounds, thinking off. Success: not evaluated. Epoch 3 of this run scores 52.88% (vs the separate 1-epoch run 48.75%: +4.12, 95% CI [0.88, 7.38]). Reference points on the same protocol: base Qwen3-1.7B 19.38%, Qwen3-32B itself 52.12%.

Notes

Epochs 1–2 are mid-schedule checkpoints and were not evaluated.

Prompt format

ReAct, multi-turn chat: the environment's AgentGym instruction as the first user turn, a canned assistant acknowledgement, then one user turn per observation; the model replies Thought:\n...\n\nAction:\n<one action>. Render with Qwen3's chat template and enable_thinking=False.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
a57a90f

0 моделей