/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
3,7 млрд
Размер весов
8 ГБ
Лицензия
Apache 2.0
Архитектура
a2d-qwen3 · dense
Базовая модель
Qwen3-4B
Библиотека
transformers
Опубликована
13 июн 2026

OPDLM-MATH-4B-Thinking

Генерация текстаТекст → текст3 профессии

Блочно-диффузионная языковая модель на базе Qwen3-4B, дообученная для решения математических задач с пошаговыми рассуждениями.

32скачиваний за 30 дней0лайковвеса обновлены15 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OPDLM-MATH-4B-Thinking — модель генерации текста для математических рассуждений, разработанная на основе Qwen/Qwen3-4B командой, связанной с проектом OPDLM. Это вариант On-Policy Distillation Language Model с блочно-диффузионной архитектурой: блоки размером 4 токена уточняются за 4 шага денойзинга. Модель дообучена для математики и поддерживает явный блок рассуждений при генерации.

Модель принимает текст и выдаёт текст; её можно применять для решения математических задач и пошагового объяснения рассуждений. Архитектура — адаптация Qwen3-4B с примерно 3,7 млрд параметров. В README указано обучение на длинном контексте 8k, тогда как метаданные сообщают максимальную длину контекста 40 960 токенов. Для запуска требуется пользовательский код модели с trust_remote_code=True и специальные утилиты генерации OPDLM; стандартный model.generate несовместим с блочно-диффузионным способом генерации.

Модель распространяется по лицензии Apache-2.0. Карточка ссылается на исследовательский отчёт об OPDLM; описанное назначение — практическое решение математических задач, поэтому модель классифицируется как production.

Сценарии применения

  • решение математических задач с пошаговым объяснением
  • генерация рассуждений для задач по алгебре и арифметике
  • ответы на текстовые задачи по математике
  • проверка и разбор математических решений

Ограничения

Для генерации нужны пользовательский код модели и специальные утилиты OPDLM; стандартный model.generate не подходит. В README упомянут контекст обучения 8k, а метаданные указывают native context в 40 960 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OPDLM-MATH-4B-Thinking

OPDLM-MATH-4B-Thinking is an On-Policy Distillation Language Model (OPDLM) — a block-diffusion language model (block size 4, 4 denoising steps per block) post-trained for mathematical reasoning. It is built on a block-diffusion adaptation of Qwen/Qwen3-4B (architecture a2d-qwen3).

This is the thinking variant: long-context (8k) math post-training with an explicit chain-of-thought thinking block enabled at inference.

arXiv report: arxiv.org/abs/2606.06712

Usage

This model uses custom modeling code; load with trust_remote_code=True. Generation is block-diffusion (non–left-to-right), so use the project's inference utilities (block_size=4, denoising_steps_per_block=4) rather than vanilla model.generate.

from transformers import AutoModel, AutoTokenizer
tok = AutoTokenizer.from_pretrained("divelab/OPDLM-MATH-4B-Thinking", trust_remote_code=True)
model = AutoModel.from_pretrained("divelab/OPDLM-MATH-4B-Thinking", trust_remote_code=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Архитектура a2d-qwen3 неизвестна transformers в образе рантайма.

Класс архитектуры
_A2DQwen3LMHeadModel
Ревизия весов
55aa240

0 моделей