/ Модель

Характеристики

Контекст
65 536 токенов
Параметры
3,1 млрд
Лицензия
Apache 2.0
Архитектура
smollm3 · dense
Базовая модель
Open-MOPD-SmolLM3-3B-MixSFT
Библиотека
transformers
Опубликована
18 сен 2026

MarinSkyRL-Open-MOPD-SmolLM3-3B-step-32

Генерация текстаТекст → текст10 профессий

Ранний чекпойнт SmolLM3 на 3,1 млрд параметров для генерации диалоговых ответов, математических задач, программирования и следования инструкциям.

317скачиваний за 30 дней0лайковвеса обновлены18 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MarinSkyRL Open-MOPD SmolLM3 3B step 32 — ранний чекпойнт языковой модели, подготовленный авторами MarinSkyRL на основе дообученного смешанного SFT-чекпойнта BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT. Модель с архитектурой SmolLM3ForCausalLM содержит 3,1 млрд параметров, принимает текст и поддерживает контекст до 65 536 токенов. Экспортирована в формате Hugging Face Safetensors без квантизации и предназначена для генерации текста в диалоговом формате.

При обучении ответы модели оценивались RL-моделями-учителями для математики, программирования и следования инструкциям с маршрутизацией по предметной области. Это промежуточный чекпойнт после 32 шагов оптимизации, а не финальная версия после 200 шагов. В независимой оценке указаны результаты AIME 2024 и 2025 с метрикой mean@64 и IFEval с mean@1; результаты других упомянутых бенчмарков не заявлены как сопоставимые с опубликованными в статье.

Модель подходит для экспериментов с генерацией ответов, математическими задачами, кодом и выполнением инструкций. В карточке не указаны языки обучения или гарантии качества для конкретных языков. Лицензия — Apache-2.0.

Сценарии применения

  • генерация ответов в диалоге
  • решение математических задач с генерацией нескольких вариантов ответа
  • выполнение текстовых инструкций
  • генерация программного кода
  • эксперименты с обучением языковых моделей методом on-policy distillation

Ограничения

Это ранний чекпойнт после 32 шагов обучения, а не финальная модель; приведённые результаты охватывают только часть целевых бенчмарков. Языковая поддержка в карточке не обозначена.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MarinSkyRL Open-MOPD student, step 32

This is a MarinSkyRL-native Open-MOPD student after 32 optimizer steps. It starts from the authors' mixed-domain SFT checkpoint. Student responses were scored by the authors' math, code, and instruction-following RL teachers, routed by domain. The objective uses the student's selected top-16 token IDs and a clipped policy surrogate. This is an early checkpoint, not the authors' step-200 final model.

The checkpoint is an unquantized, six-file Hugging Face export of the durable MarinSkyRL global_step_32 FSDP2 checkpoint. The policy export was used for the independent step-32 evaluation. The export's model.safetensors SHA-256 is bb7326640142069bc2e1fba5f54f15e0cccb1ff861f34f318b372eaab7abaf4b. The original trainer-state SHA-256 is a3f50a849ed43f06deef731bc676a1bf8d31fcf5d34ed2f63c8b6aa1c985da34. The training source is MarinSkyRL commit 12e6da9e.

The retained training and inline-evaluation traces cover the original, fast-gate, and fast-full run segments. They include student responses and teacher-route metadata, but not the historical per-token teacher scoring arrays. The local open-mopd-repro/open-mopd-reproduce.md artifact gives the exact source, input, and launch sequence.

Independent evaluationCorrect / outputsAccuracy
AIME 2024, mean@64423 / 1,92022.03%
AIME 2025, mean@64448 / 1,92023.33%
IFEval, mean@1403 / 54174.49%

These are three of the six released target benchmarks. LiveCodeBench v5/v6 and IFBench were generated, but paper-comparable scores are not claimed here. The training run reached a durable step-34 checkpoint and was then stopped by the campaign owner. This model is the earlier evaluated step-32 export. See the Open-MOPD paper for the authors' full experiment and final results.

Use AutoTokenizer.from_pretrained and AutoModelForCausalLM.from_pretrained with this repository ID. The export contains config.json, generation_config.json, tokenizer.json, tokenizer_config.json, and chat_template.jinja with the weights. For comparable AIME results, use the released 30-question sets with 64 samples per question and the recorded evaluation prompts, generation limits, and grader. A single greedy answer is not comparable to mean@64.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
SmolLM3ForCausalLM
Ревизия весов
07579a5

0 моделей