/ Модель
Каталог

Характеристики

Контекст
131 072 токена
Параметры
7,1 млрд
Размер весов
15,2 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Базовая модель
Qwen2.5-7B
Библиотека
transformers
Опубликована
25 июн 2026

Ссылки

Hugging Face

qwen2.5-7b-base-retool-slime-sft

BillyWang1
Генерация текстаТекст → текст3 профессии

Дообученная на ReTool-SFT модель Qwen2.5-7B для многошагового применения Python-инструмента при решении математических задач.

34скачиваний за 30 дней0лайковвеса обновлены25 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

BillyWang1/qwen2.5-7b-base-retool-slime-sft — модель Qwen2.5-7B, дообученная BillyWang1 методом SFT на наборе JoeYing/ReTool-SFT. Это начальный этап конвейера retool-slime: модель обучена многошаговому формату вызова Python-инструмента, чтению вывода песочницы и выдаче итогового ответа в \\boxed{}. Основа — плотная авторегрессионная архитектура Qwen2 с 7,1 млрд параметров и контекстом до 131 072 токенов; формат весов — safetensors, для работы используется Transformers.

Модель предназначена для запуска этапов GRPO/GFlowRL конвейера retool-slime и для математических задач с подключённым Python-инструментом. Она принимает текстовые сообщения, формирует код и ответы в заданном формате; полноценное выполнение Python-кода требует внешней среды-песочницы. Это не instruct-вариант Qwen2.5-7B, а базовая модель после SFT, поэтому её поведение зависит от совместимого шаблона ReTool. Лицензия — Apache-2.0.

Сценарии применения

  • Решение математических задач с выполнением Python-кода в песочнице
  • Генерация кода для вызова внешнего интерпретатора Python
  • Интерпретация вывода песочницы в многошаговом диалоге
  • Подготовка модели для последующего обучения GRPO или GFlowRL

Ограничения

Для фактического исполнения Python необходима внешняя песочница и совместимый формат ReTool; модель является базовой Qwen2.5 после SFT, а не instruct-моделью общего назначения.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейIV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

qwen2.5-7b-base-retool-slime-sft

ReTool SFT cold-start of Qwen/Qwen2.5-7B (base, not -Instruct). This stage teaches the multi-turn <code> / <interpreter> / \boxed{} tool-use format on JoeYing/ReTool-SFT so the model can write Python, read sandbox output, and finish with a boxed answer. It is the first stage of the retool-slime pipeline (base → tool-format SFT → RL (GRPO / GFlowRL)).

Training

  • Framework: slime v0.3.0 (Megatron-LM backend).
  • Data: JoeYing/ReTool-SFT (2,000 multi-turn {messages} trajectories).
  • Recipe: loss_type=sft_loss, 3 epochs, rollout/global batch 128, Adam, lr 1e-5 (cosine → 1e-6, 10% warmup), weight decay 0.1, bf16, max_tokens_per_gpu=9216, full activation recompute.
  • Parallelism: 8×A100-40GB, tensor-parallel 4 (+ sequence parallel), PP 1.
  • Final train loss: ≈ 0.37–0.40 (from ≈ 0.70 at start).

The prompt/response template is owned by the rollout (generate_with_retool); chat templates are not applied on top during RL.

Intended use

Consume directly as the --hf-checkpoint / MODEL_PATH for the GRPO / GFlowRL stages of retool-slime, or for tool-augmented math inference using the ReTool <code>/<interpreter> format.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
1628095

0 моделей

    Создать бенчмарк