/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
20 сен 2026

qwen3-1.7b-textcraft-opd-qwen3-32b-step33

Генерация текстаТекст → текст3 профессии

Экспериментальный чекпойнт Qwen3-1.7B, обученный многошаговой on-policy-дистилляцией для агентных задач TextCraft.

227скачиваний за 30 дней0лайковвеса обновлены20 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SeanWang0027/qwen3-1.7b-textcraft-opd-qwen3-32b-step33 — экспериментальный чекпойнт Qwen3-1.7B, созданный в исследовании TextCraft командой SeanWang0027. Модель обучалась методом многошаговой on-policy-дистилляции от Qwen3-32B: студент генерировал собственные траектории диалога, а обучение использовало сигнал reverse-KL по сгенерированным токенам. Это шаг 33 из 66 в серии экспериментов по обучению многошаговых агентов.

Модель предназначена для работы агентом в задачах TextCraft: принимает наблюдения в многоходовом диалоге и формирует ответы в формате ReAct с разделами Thought и Action. Это плотная языковая модель на 1,7 млрд параметров с контекстом до 40 960 токенов; использует архитектуру Qwen3 и библиотеку Transformers. В README результат на официальном тестовом наборе не оценивался; приведены только результаты базовой модели и учителя, поэтому качество этого чекпойнта неизвестно. Лицензия — Apache-2.0.

Сценарии применения

  • эксперименты с многошаговыми агентами в TextCraft
  • генерация ReAct-ответов с действиями по наблюдениям среды
  • сравнение методов дистилляции языковых моделей для агентов

Ограничения

Успешность этого чекпойнта на официальном тестовом наборе TextCraft не оценивалась. Это промежуточный шаг 33 из 66 в исследовательской серии, поэтому качество и пригодность для других задач не установлены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B · TextCraft · multi-turn on-policy distillation from Qwen3-32B — step 33 of 66

Student: Qwen/Qwen3-1.7B. Part of a study comparing teacher-trajectory SFT, online multi-turn ROSE and on-policy distillation for multi-turn agents.

Training

Multi-turn OPD: the student plays whole episodes (30 turns) and is trained with a reverse-KL policy-gradient signal from Qwen3-32B on its own generated tokens only. lr 1e-6, weight decay 0.1, batch 32, 6 epochs over 374 tasks = 66 steps, bf16.

Evaluation

TextCraft official test split (100 tasks), avg of 4 passes, temperature 0.4, 512 tokens/turn, 30 turns, thinking off. Success: not evaluated. Reference points on the same protocol: base Qwen3-1.7B 23.00%, Qwen3-32B itself 85.50%.

Prompt format

ReAct, multi-turn chat: the environment's AgentGym instruction as the first user turn, a canned assistant acknowledgement, then one user turn per observation; the model replies Thought:\n...\n\nAction:\n<one action>. Render with Qwen3's chat template and enable_thinking=False.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
c48facd

0 моделей