/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Размер весов
8,1 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
20 сен 2026

qwen3-1.7b-alfworld-sft-gpt54mini-ep1

Генерация текстаТекст → текст3 профессии

Промежуточная версия Qwen3-1.7B, дообученная на траекториях учителя для многошагового выполнения действий в текстовой среде ALFWorld.

145скачиваний за 30 дней0лайковвеса обновлены20 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальный чекпойнт Qwen3-1.7B, дообученный командой автора на траекториях действий агента в среде ALFWorld. Обучение выполнено методом supervised fine-tuning: модель обучалась предсказывать ответы учителя gpt-5.4-mini по полным эпизодам, включая неудачные. Чекпойнт соответствует первой эпохе трёхэпохового запуска.

Модель предназначена для многошагового взаимодействия с текстовой средой: получает инструкции и наблюдения, затем формирует ответ в стиле ReAct с полями Thought и Action. В тесте ALFWorld на 200 играх, усреднённом по четырём проходам, достигла успешности 55,12% ± 1,24%; результат базовой Qwen3-1.7B на том же протоколе составил 19,38%. Это ранний промежуточный чекпойнт, поэтому результаты последующих эпох были выше. Модель имеет плотную авторегрессионную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров и контекст до 40 960 токенов; работает с текстом через библиотеку Transformers и шаблон чата Qwen3. В карточке указана лицензия Apache-2.0.

Сценарии применения

  • выполнение многошаговых инструкций в ALFWorld
  • выбор действий по текстовым наблюдениям среды
  • эксперименты с обучением языковых агентов на траекториях учителя

Ограничения

Чекпойнт первой эпохи является промежуточным: по результатам карточки успешность следующих эпох была выше. Обучающие траектории включали неудачные эпизоды, а формат и оценка ориентированы на протокол ALFWorld.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B · ALFWorld · trajectory SFT on gpt-5.4-mini rollouts — epoch 1 of 3

Student: Qwen/Qwen3-1.7B. Part of a study comparing teacher-trajectory SFT, online multi-turn ROSE and on-policy distillation for multi-turn agents.

Training

Trajectory SFT: one row per full teacher episode in ChatML, cross-entropy only on each teacher reply and its <|im_end|> (observations, instruction and assistant header are context). Batch 32, AdamW lr 1e-5, weight decay 0, cosine schedule with 10% warmup, fp32 training. Nothing filtered: failed episodes are included. Data: 2420 AgentGym training games played once by gpt-5.4-mini (OpenAI API, reasoning_effort=medium; only the visible reply is used), at most 30 turns, teacher success 58.97%, 49431 supervised turns. One 3-epoch run (225 steps, cosine over all 225), max length 18432; this is step 75, fp32.

Evaluation

ALFWorld test split (AgentGym, 200 games), avg of 4 passes, temperature 0.4, 512 tokens/turn, 30 rounds, thinking off. Success 55.12% ± 1.24. Epochs 1/2/3 of this run: 55.12 / 55.38 / 58.25. Same-teacher online ROSE 10+5 after 3 epochs: 40.25% (SFT − ROSE = +18.00 points, 95% CI [12.75, 23.75]). Reference points on the same protocol: base Qwen3-1.7B 19.38%, Qwen3-32B itself 52.12%.

Notes

Epochs 1–2 are mid-schedule checkpoints (learning rate still high); only epoch 3 saw the full decay. The teacher writes a Thought in only ~13% of its turns and so does this model.

Prompt format

ReAct, multi-turn chat: the environment's AgentGym instruction as the first user turn, a canned assistant acknowledgement, then one user turn per observation; the model replies Thought:\n...\n\nAction:\n<one action>. Render with Qwen3's chat template and enable_thinking=False.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
8b601ef

0 моделей