/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Размер весов
4,1 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
20 сен 2026

qwen3-1.7b-textcraft-sft-qwen3-32b-traj

Генерация текстаТекст → текст3 профессии

Компактная дообученная Qwen3-1.7B для многошагового управления агентом в TextCraft в формате ReAct.

225скачиваний за 30 дней0лайковвеса обновлены20 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SeanWang0027/qwen3-1.7b-textcraft-sft-qwen3-32b-traj — дообученная модель Sean Wang на базе Qwen/Qwen3-1.7B для многошаговых агентных задач в среде TextCraft. Модель обучена методом trajectory SFT на диалоговых траекториях Qwen3-32B: из 2132 эпизодов использовались ответы учителя, а наблюдения и инструкции подавались как контекст. Это компактная плотная языковая модель на 1,7 млрд параметров с архитектурой Qwen3, рассчитанная на генерацию текста и чаты; контекст — до 40 960 токенов.

Модель следует формату ReAct и выдаёт рассуждение и действие для очередного хода агента, получая инструкции и наблюдения среды в последовательности сообщений. В описанном автором тесте TextCraft она достигла 72,75% успешных решений при нулевой доле некорректно сформированных ходов; результат измерен на 100 задачах при заданном протоколе и не гарантирует аналогичного качества в других средах. Модель опубликована в формате safetensors и доступна по лицензии Apache-2.0.

Сценарии применения

  • выполнение многошаговых задач в среде TextCraft
  • генерация следующего действия агента по наблюдению среды
  • тестирование методов обучения языковых агентных моделей
  • эксперименты с переносом траекторий учителя на компактную модель

Ограничения

Обучение проведено на одном наборе из 2132 траекторий Qwen3-32B за одну эпоху, причём неудачные эпизоды не отфильтровывались. Показатель 72,75% относится только к указанному тесту TextCraft и протоколу оценки.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B · TextCraft · trajectory SFT on Qwen3-32B rollouts — 1 epoch

Student: Qwen/Qwen3-1.7B. Part of a study comparing teacher-trajectory SFT, online multi-turn ROSE and on-policy distillation for multi-turn agents.

Training

Trajectory SFT: one row per full teacher episode in ChatML, cross-entropy only on each teacher reply and its <|im_end|> (observations, instruction and assistant header are context). Batch 32, AdamW lr 1e-5, weight decay 0, cosine schedule with 10% warmup, fp32 training. Nothing filtered: failed episodes are included. Data: 6 Qwen3-32B trajectories per training task (2132 episodes), 1 epoch = 66 steps. Stored in bf16.

Evaluation

TextCraft official test split (100 tasks), avg of 4 passes, temperature 0.4, 512 tokens/turn, 30 turns, thinking off. Success 72.75%, malformed turns 0.00%. Reference points on the same protocol: base Qwen3-1.7B 23.00%, Qwen3-32B itself 85.50%.

Prompt format

ReAct, multi-turn chat: the environment's AgentGym instruction as the first user turn, a canned assistant acknowledgement, then one user turn per observation; the model replies Thought:\n...\n\nAction:\n<one action>. Render with Qwen3's chat template and enable_thinking=False.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
bfa334a

0 моделей