/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
20 сен 2026

qwen3-1.7b-textcraft-opd-qwen3-32b-step66

Генерация текстаТекст → текст3 профессии

Дообученная Qwen3-1.7B для многошаговых агентов, обученная on-policy дистилляцией и проверенная на задачах TextCraft.

227скачиваний за 30 дней0лайковвеса обновлены20 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SeanWang0027/qwen3-1.7b-textcraft-opd-qwen3-32b-step66 — дообученная модель Sean Wang на базе Qwen/Qwen3-1.7B, созданная в исследовании многошаговых агентов. Это плотная причинная языковая модель на 1,7 млрд параметров для генерации текста и диалогов; она принимает текст и выдаёт текст. Контекст составляет до 40 960 токенов, модель распространяется в формате safetensors и использует библиотеку Transformers.

Модель обучена методом многошаговой on-policy дистилляции: студент проходил эпизоды из 30 ходов, а Qwen3-32B задавала сигнал обучения на собственных сгенерированных токенах студента. В тесте TextCraft на 100 задачах средний успех составил 29,5% за четыре прохода; для сравнения, базовая Qwen3-1.7B набрала 23%, а Qwen3-32B — 85,5% на том же протоколе. Модель рассчитана на многошаговое взаимодействие с окружением в формате ReAct, где ответ включает рассуждение и действие. Лицензия — Apache-2.0.

Сценарии применения

  • выполнение многошаговых задач в текстовом игровом окружении
  • генерация действий агента в формате ReAct
  • исследование on-policy дистилляции языковых моделей
  • сравнение стратегий обучения диалоговых агентов

Ограничения

В тесте TextCraft модель достигла успеха 29,5%, заметно уступив Qwen3-32B с результатом 85,5%; оценка относится к конкретному протоколу из 100 задач. Поддерживаемые языки отдельно не перечислены в предоставленных данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B · TextCraft · multi-turn on-policy distillation from Qwen3-32B — step 66 of 66

Student: Qwen/Qwen3-1.7B. Part of a study comparing teacher-trajectory SFT, online multi-turn ROSE and on-policy distillation for multi-turn agents.

Training

Multi-turn OPD: the student plays whole episodes (30 turns) and is trained with a reverse-KL policy-gradient signal from Qwen3-32B on its own generated tokens only. lr 1e-6, weight decay 0.1, batch 32, 6 epochs over 374 tasks = 66 steps, bf16.

Evaluation

TextCraft official test split (100 tasks), avg of 4 passes, temperature 0.4, 512 tokens/turn, 30 turns, thinking off. Success: 29.50% (passes 28/28/30/32). Reference points on the same protocol: base Qwen3-1.7B 23.00%, Qwen3-32B itself 85.50%.

Prompt format

ReAct, multi-turn chat: the environment's AgentGym instruction as the first user turn, a canned assistant acknowledgement, then one user turn per observation; the model replies Thought:\n...\n\nAction:\n<one action>. Render with Qwen3's chat template and enable_thinking=False.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
9b63d6a

0 моделей