/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
508 млн
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-0.6B
Библиотека
transformers
Опубликована
17 сен 2025

reasoning-router-0.6b

Классификация текстаТекст → label3 профессии

Компактный классификатор, который определяет, следует ли направить запрос в систему с явными рассуждениями.

37скачиваний за 30 дней6лайковвеса обновлены25 сен 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Reasoning Router 0.6B — дообученная Амиром Мохсени модель классификации на базе Qwen/Qwen3-0.6B. Она относит текстовые запросы к классу `no_think`, если явный режим рассуждений не нужен, или `think`, если запросу может быть полезен такой режим, например для математики и многошагового анализа. Модель предназначена для маршрутизации запросов в гибридных системах: простые задачи можно направлять на быстрые и недорогие модели, а более сложные — на модели с поддержкой рассуждений.

Модель содержит 507,6 млн параметров, использует архитектуру Qwen3ForSequenceClassification и принимает текст для классификации. Контекстное окно — до 40 960 токенов. Обучение проводилось на наборе AmirMohseni/reasoning-router-data-v2, включающем математические задачи и общие запросы; основным языком обучения был английский. Модель распространяется по лицензии Apache-2.0.

Классификация может помогать снижать задержки и вычислительные затраты в конвейерах из нескольких моделей. Точность для других языков может быть ниже; примеры с меткой `think` преимущественно связаны с математическими рассуждениями, а кодовые задачи в обучающих данных не представлены.

Сценарии применения

  • Маршрутизация простых запросов на быструю модель
  • Выбор модели с рассуждениями для математических задач
  • Определение запросов, требующих многошагового анализа
  • Снижение задержек и вычислительных затрат в гибридном конвейере моделей

Ограничения

Обучение преимущественно ориентировано на английский язык, поэтому качество на других языках может быть ниже. Класс `think` смещён в сторону математических рассуждений, а программные задачи в обучающих данных не представлены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Reasoning Router 0.6B

AmirMohseni/reasoning-router-0.6b is a fine-tuned reasoning router built on top of Qwen/Qwen3-0.6B. It classifies user prompts into two categories:

  • no_think → The task does not require explicit reasoning.
  • think → The task benefits from a reasoning mode (e.g., math, multi-step analysis).

This router is designed for hybrid model systems, where it decides whether to route prompts to lightweight inference endpoints or to reasoning-enabled models such as the Qwen3 series or deepseek-ai/DeepSeek-V3.1.


Use Case

The reasoning router allows for efficient orchestration in model pipelines:

  • Run cheap, fast inference for simple tasks.
  • Switch to more powerful, expensive reasoning models only when needed.

This approach helps reduce costs, latency, and unnecessary compute in real-world deployments.


🚀 Quick Start

Example Usage

from transformers import pipeline

# Initialize the router pipeline
router = pipeline(
    "text-classification",
    model="AmirMohseni/reasoning-router-0.6b",
    device_map="auto"
)

# Example prompt that requires reasoning
prompt = "What is the sum of the first 100 prime numbers?"
results = router(prompt)[0]

print('Label: ', results['label']) # Label:  no_think
print('Probability Score: ', results['score']) # Probability Score:  0.6192409992218018

📚 Training Data

This model was trained on the AmirMohseni/reasoning-router-data-v2 dataset, which was curated from multiple instruction-following datasets. The dataset primarily contains:

  • Math reasoning data → Derived from Big-Math-RL and AIME problems (1983–2024).
  • General tasks → A mix of simple vs. reasoning-heavy queries to teach the model to distinguish between them.

⚠️ Limitations

  • Language Coverage: The model is trained primarily on English. Performance on other languages may be weaker.
  • Reasoning Coverage: For tasks labeled think, the training data is heavily skewed towards mathematical reasoning.
  • No Coding Tasks: Programming or code-related reasoning tasks are not included in the current training data.

🔧 Model Details

  • Base model: Qwen/Qwen3-0.6B
  • Parameters: 0.6B
  • Task: Binary classification (no_think, think)
  • Intended use: Routing prompts for hybrid reasoning pipelines.

✅ Intended Use

  • Routing user prompts in a multi-model reasoning system.
  • Reducing compute costs by filtering out tasks that don’t require a dedicated reasoning model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForSequenceClassification
Ревизия весов
cf3084a

0 моделей