/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Размер весов
4,1 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
20 сен 2026

qwen3-1.7b-alfworld-sft-qwen3-32b-3ep-ep1

Генерация текстаТекст → текст3 профессии

Промежуточный чекпойнт Qwen3-1.7B, дообученный на траекториях Qwen3-32B для экспериментов с многошаговыми ReAct-агентами в ALFWorld.

156скачиваний за 30 дней0лайковвеса обновлены20 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальный чекпойнт Qwen3-1.7B, дообученный исследовательской командой на траекториях действий учителя Qwen3-32B в текстовой среде ALFWorld. Обучение выполнено методом supervised fine-tuning: модель учится продолжать диалог в формате ChatML и выдавать ответы в стиле ReAct — рассуждение и действие — по инструкциям и наблюдениям среды. Веса сохранены в формате bf16; архитектура — плотная авторегрессионная Qwen3ForCausalLM с 1,7 млрд параметров, контекст — до 40 960 токенов.

Модель предназначена для экспериментов с многошаговыми текстовыми агентами и выполнением действий в ALFWorld. В карточке для этого конкретного чекпойнта результаты оценки не приведены: показатели 52,88% относятся к третьей эпохе полного трёхэпохового обучения, а этот файл — промежуточный чекпойнт первой эпохи, который не оценивался. Базовая модель Qwen3-1.7B на том же протоколе показала 19,38%, а учитель Qwen3-32B — 52,12%. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • эксперименты с текстовым агентом в ALFWorld
  • генерация действий ReAct по наблюдениям игровой среды
  • изучение переноса поведения учителя на компактную языковую модель

Ограничения

Этот чекпойнт первой эпохи не оценивался; приведённые в карточке результаты относятся к отдельным контрольным точкам. Обучающая выборка включает неудачные эпизоды, поэтому модель может воспроизводить неуспешные траектории.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B · ALFWorld · trajectory SFT on Qwen3-32B rollouts — epoch 1 of 3

Student: Qwen/Qwen3-1.7B. Part of a study comparing teacher-trajectory SFT, online multi-turn ROSE and on-policy distillation for multi-turn agents.

Training

Trajectory SFT: one row per full teacher episode in ChatML, cross-entropy only on each teacher reply and its <|im_end|> (observations, instruction and assistant header are context). Batch 32, AdamW lr 1e-5, weight decay 0, cosine schedule with 10% warmup, fp32 training. Nothing filtered: failed episodes are included. Data: 2420 training games played by Qwen3-32B (teacher success 55.70%). One 3-epoch run (225 steps, cosine over all 225); this is step 75. Stored in bf16.

Evaluation

ALFWorld test split (AgentGym, 200 games), avg of 4 passes, temperature 0.4, 512 tokens/turn, 30 rounds, thinking off. Success: not evaluated. Epoch 3 of this run scores 52.88% (vs the separate 1-epoch run 48.75%: +4.12, 95% CI [0.88, 7.38]). Reference points on the same protocol: base Qwen3-1.7B 19.38%, Qwen3-32B itself 52.12%.

Notes

Epochs 1–2 are mid-schedule checkpoints and were not evaluated.

Prompt format

ReAct, multi-turn chat: the environment's AgentGym instruction as the first user turn, a canned assistant acknowledgement, then one user turn per observation; the model replies Thought:\n...\n\nAction:\n<one action>. Render with Qwen3's chat template and enable_thinking=False.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
14b227c

0 моделей