Характеристики

Контекст: 32 768 токенов
Параметры: 7,1 млрд
Размер весов: 15,2 ГБ
Лицензия: Apache 2.0
Архитектура: qwen2 · dense
Базовая модель: Qwen2.5-7B-Instruct
Библиотека: transformers
Опубликована: 29 сен 2026

Ссылки

Hugging Face

gats-coldstart-opd-grpo-qwen2.5-7b-sciworld

C12H18

Генерация текстаТекст → текст3 профессии

Дообученная на SciWorld модель Qwen2.5-7B-Instruct для исследований обучения языковых агентов методами OPD и GRPO.

178скачиваний за 30 дней0лайковвеса обновлены29 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это исследовательский чекпойнт GATS из серии экспериментов с холодным стартом для обучения языковых моделей-агентов. Он основан на Qwen2.5-7B-Instruct и дообучен на задачах SciWorld: после этапа дистилляции по текущей политике (OPD) модель прошла 150 шагов оптимизации GRPO. Модель предназначена для изучения стратегий обучения агента и воспроизведения базовых экспериментов статьи GATS, а не для использования в качестве универсального помощника.

Модель использует плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает и генерирует текст, поддерживает чат и контекст до 32 768 токенов. В README приведены результаты оценки: 37,76 ± 2,51 на знакомых задачах и 33,07 ± 3,93 на новых задачах SciWorld. Репозиторий распространяет веса в формате safetensors под лицензией Apache-2.0.

Сценарии применения

воспроизведение базовых экспериментов статьи GATS
изучение холодного старта для обучения языковых агентов
сравнение дистилляции по политике и обучения с подкреплением
оценка агента на знакомых и новых задачах SciWorld

Ограничения

Модель ориентирована на эксперименты с агентами в SciWorld и не предназначена для использования как универсальный помощник; приведённые результаты относятся к указанной оценке с тремя rollout-seed.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

GATS Cold-Start: Pure-OPD cold-start + GRPO (SciWorld)

Part of the Cold-start collection for the GATS paper (capability-aware on-policy distillation). Student: Qwen2.5-7B-Instruct; teacher: Qwen2.5-1.5B GRPO-trained on SciWorld train tasks.

Chain: pure-OPD cold-start -> pure GRPO

Starting point: the pure-OPD cold-start checkpoint (see C12H18/gats-coldstart-opd-qwen2.5-7b-sciworld, N = 29 on-policy distillation steps). Then pure GRPO:

GRPO: 150 steps, lr 1e-6, group n=8, 16 tasks/step, gamma 0.95, KL loss (low-variance, coef 0.01), invalid-action penalty 0.1, entropy 0.001, grad clip 1.0
Run id: opdgrpo-sci7b-t1p5b-s0 (seed 0)
Final evaluation: seen 37.76 ± 2.51 / unseen 33.07 ± 3.93 (K=3, rollout seeds 0/1/2)

Intended use

Research on cold-start strategies for agent RL (imitation-first vs RL-from-scratch) and reproduction of the GATS paper baselines. Not a general-purpose assistant.

Provenance

Trained 2026-09-28 on the internal verl-based stack; checkpoints uploaded unmodified from the training runs (bfloat16 unless noted float32 above).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen2ForCausalLM
Ревизия весов: 741cc6c