/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
15,2 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Базовая модель
Qwen2.5-7B-Instruct
Библиотека
transformers
Опубликована
29 сен 2026

gats-coldstart-opd-qwen2.5-7b-webshop

Генерация текстаТекст → текст3 профессии

Дообученная Qwen2.5-7B для изучения холодного старта агентного обучения и имитации действий в WebShop.

169скачиваний за 30 дней0лайковвеса обновлены29 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

GATS Cold-Start — экспериментальная модель для исследований стратегий холодного старта агентного обучения с подкреплением и воспроизведения базовых результатов статьи GATS на WebShop. Это дообученная версия Qwen2.5-7B-Instruct с архитектурой Qwen2 dense и 7,1 млрд параметров. В фазе pure on-policy distillation модель выполняла действия в WebShop и обучалась имитации модели-учителя Qwen2.5-1.5B, обученной методом GRPO на задачах WebShop; обучение включало 29 шагов без слагаемого награды RL.

Валидация до RL показала 60,2%. Модель принимает текст и генерирует текст для взаимодействия со средой WebShop; контекст — до 32 768 токенов. Разработана в рамках коллекции Cold-start для статьи GATS. Лицензия Apache-2.0.

Сценарии применения

  • воспроизведение базового эксперимента GATS на WebShop
  • исследование имитационного обучения агента перед RL
  • сравнение холодного старта с обучением агента с нуля
  • генерация действий агента для задач WebShop

Ограничения

Модель предназначена для экспериментов на WebShop, а не для использования как универсальный помощник. Показатель валидации 60,2% относится к проверке до этапа RL и не гарантирует качество на других задачах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

GATS Cold-Start: Pure-OPD cold-start (WebShop)

Part of the Cold-start collection for the GATS paper (capability-aware on-policy distillation). Student: Qwen2.5-7B-Instruct; teacher: Qwen2.5-1.5B GRPO-trained on WebShop train tasks.

Cold-start phase: pure on-policy distillation (OPD)

The student rolls out on-policy in the environment and imitates the Qwen2.5-1.5B teacher (GRPO step-150 on WebShop train tasks) with a pure imitation objective (opd_only, coefficient 1.0 -- no RL reward term), for N steps where N is the GATS handoff step on this dataset: N = 29.

  • Rollouts: 16 tasks/step, group n=8; lr 1e-6; N = 29 steps
  • Checkpoint: global_step_29 (merged FSDP -> HF, bfloat16)
  • Validation before any RL: 60.2% (train-time val at RL step 0)

Intended use

Research on cold-start strategies for agent RL (imitation-first vs RL-from-scratch) and reproduction of the GATS paper baselines. Not a general-purpose assistant.

Provenance

Trained 2026-09-28 on the internal verl-based stack; checkpoints uploaded unmodified from the training runs (bfloat16 unless noted float32 above).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
577aae0

0 моделей