/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
22 сен 2026

qwen3-1.7b-babyai-tcod-b2f-qwen3-32b-ep1

Генерация текстаТекст → текст3 профессии

Экспериментальная версия Qwen3-1.7B, дистиллированная от Qwen3-32B методом TCOD для исследования диалоговых задач BabyAI.

275скачиваний за 30 дней0лайковвеса обновлены22 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SeanWang0027 публикует экспериментальный чекпойнт Qwen3-1.7B, дообученный методом TCOD backward-to-forward с дистилляцией от Qwen3-32B на задачах BabyAI. Модель представляет собой плотную авторегрессионную языковую модель на 1,7 млрд параметров для генерации текста и диалогов; репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Контекстное окно составляет 40 960 токенов.

Чекпойнт обучен на первом из трёх проходов по 810 официальным обучающим задачам BabyAI; в карточке указаны 52 шага explorer и 75 шагов trainer. Он предназначен для экспериментов с выполнением инструкций и диалоговых задач BabyAI. Модель не оценивалась, поэтому её качество на этих задачах не подтверждено. Сведения о лицензии в предоставленных данных отсутствуют.

Сценарии применения

  • эксперименты с выполнением инструкций в задачах BabyAI
  • исследование дистилляции языковой модели методом TCOD
  • генерация диалоговых ответов в сценариях BabyAI

Ограничения

Модель не оценивалась; указанный чекпойнт получен на раннем этапе обучения, после первого из трёх проходов по данным. Лицензия не указана в предоставленных данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B, BabyAI, TCOD-B2F from Qwen3-32B, data pass 1 of 3

TCOD backward-to-forward (the gold prefix shrinks, checkpoint_steps 5). Code: kokolerk/TCOD + FutureBridge-OPD overlay (trinity-rft), BabyAI port as in docs/TCOD_BABYAI.md of the online-rose repo (branch tcod-babyai): student Qwen3-1.7B, teacher Qwen3-32B bf16, thinking off, the conversation of babyai/eval_babyai.py, 20 turns, the 810 official train tasks, batch 16 episodes / 64 turns, lr 1e-6, kl_coef 1.0, three passes over the data = 152 explorer steps. This is the HF export after explorer step 52 (trainer step 75). Not evaluated.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
167edbd

0 моделей