Характеристики

Контекст: 32 768 токенов
Параметры: 32 млрд
Размер весов: 131 ГБ
Лицензия: Apache 2.0
Архитектура: qwen2 · dense
Базовая модель: Qwen2.5-32B-Instruct
Библиотека: transformers
Опубликована: 8 фев 2025

Ссылки

Hugging Face arXiv 2501.19393

s1.1-32B

simplescaling

Генерация текстаТекст → текст4 профессии

Дообученная 32-миллиардная модель Qwen2 для генерации текста и решения задач, требующих многошагового рассуждения.

236скачиваний за 30 дней99лайковвеса обновлены27 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

s1.1-32B — дообученная SimpleScaling плотная языковая модель семейства Qwen2, созданная на основе Qwen/Qwen2.5-32B-Instruct. Разработчики сообщают, что это преемник s1-32B с улучшенными способностями к рассуждению; при обучении использованы трассы рассуждений r1 для набора s1K-1.1. Модель имеет 32 млрд параметров, работает через Transformers и принимает текстовые запросы, в том числе в диалоговом формате.

Модель предназначена для генерации текста и решения задач, требующих многошагового рассуждения, особенно математических задач. В README приведены результаты на AIME 2024 и AIME 2025 I; для сравнения s1.1-32B использовала budget forcing — игнорирование маркера завершения рассуждений и добавление «Wait» до четырёх раз, поэтому результаты зависят от этого приёма. Контекст модели составляет 32 768 токенов. Указанная лицензия — Apache-2.0.

Сценарии применения

решение олимпиадных математических задач
многошаговое рассуждение по текстовому запросу
генерация ответов в диалоговом формате

Ограничения

В опубликованной таблице оценки s1.1-32B получены с budget forcing: маркер завершения рассуждений игнорировался, а «Wait» добавлялось до четырёх раз; результаты могут зависеть от этой процедуры. README не описывает другие ограничения модели.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Summary

s1.1 is our sucessor of s1 with better reasoning performance by leveraging reasoning traces from r1 instead of Gemini.

Logs: https://wandb.ai/hashimoto-group/o1/runs/m1ilia77/overview
Repository: simplescaling/s1
Paper: https://arxiv.org/abs/2501.19393

This model is a successor of s1-32B with slightly better performance. Thanks to Bespoke Labs (Ryan Marten) for helping generate r1 traces for s1K with Curator.

Use

The model usage is documented here.

Evaluation

Metric	s1-32B	s1.1-32B	o1-preview	o1	DeepSeek-R1	DeepSeek-R1-Distill-Qwen-32B
# examples	1K	1K	?	?	>800K	800K
AIME2024	56.7	56.7	40.0	74.4	79.8	72.6
AIME2025 I	26.7	60.0	37.5	?	65.0	46.1
MATH500	93.0	95.4	81.4	94.8	97.3	94.3
GPQA-Diamond	59.6	63.6	75.2	77.3	71.5	62.1

Note that s1-32B and s1.1-32B use budget forcing in this table; specifically ignoring end-of-thinking and appending "Wait" up to four times.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen2ForCausalLM
Ревизия весов: 7b641db