/ Модель

Характеристики

Контекст
8 192 токена
Параметры
140 млн
Лицензия
Apache 2.0
Архитектура
modernbert · dense
Базовая модель
mmBERT-small
Опубликована
16 июл 2026

panther-read-intent-classifier

Классификация текстаТекст → label3 профессии

Мультиязычный классификатор Patronus определяет намерение в текстовом запросе и помогает направлять его нужному ИИ-агенту или инструменту.

22скачиваний за 30 дней1лайквеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Panther Read Intent Classifier — мультиязычный классификатор Patronus на архитектуре ModernBERT (mmBERT), дообученный для определения намерения пользователя по тексту и маршрутизации запроса к нужной возможности. Модель присваивает входному тексту ровно один класс, включая обычный диалог, запросы на разработку кода и аналитику данных; README также приводит класс запроса на выполнение операций с инструментами. Её можно использовать для оркестрации ИИ-агентов, выбора возможностей, маршрутизации по политикам и мониторинга во время работы.

Модель содержит 140,5 млн параметров, принимает текст, поддерживает контекст до 8192 токенов и доступна в форматах Safetensors и ONNX. Основные оценивавшиеся языки — немецкий и английский; мультиязычная базовая модель охватывает более 1800 языков, но остальные языки для этой задачи активно не проверялись. На тестовом наборе из 1880 примеров указаны точность 0,898 и macro F1 0,899. Распространяется по лицензии Apache-2.0.

Сценарии применения

  • маршрутизация запросов к агенту для написания или отладки кода
  • определение запросов на анализ и визуализацию данных
  • отделение обычного диалога от операционных запросов
  • выбор возможностей ИИ-агента по намерению пользователя
  • направление запросов на проверку политик и одобрение
  • мониторинг текстовых запросов во время работы ИИ-системы

Ограничения

Предсказание отражает предполагаемое свойство текста, но не подтверждает выполнение действия; модель не отслеживает передачу информации между шагами агента. Немецкий и английский — основные оценённые языки, для остальных возможны ошибки; для решений с высокими последствиями рекомендуется сочетать модель с детерминированными правилами и калиброванными порогами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Panther Read Intent Classifier

Multilingual User-Intent & Request-Routing Classifier for Real-World AI Agent Security

Read more

Panther Read is a multilingual ModernBERT-based (mmBERT) classifier that detects the operational intent of a request and routes it to the right capability. It is part of the Patronus Protect security stack and is the dedicated single-head counterpart to the routing head of Lion Warden.

Intended Uses

The model maps an input text to exactly one class:

idlabeldescription
0benign_convOrdinary conversation with no operational request.
1code_development_requestA request to write, debug, or reason about code.
2data_analytics_requestA request to query, analyze, or visualize data.
3office_requestA document / office task (drafting, summarizing, email).
4tool_operation_requestA request that intends to operate a tool or run an action.

Examples:

InputExpected class
How was your weekend?benign_conv
Write a Python function that merges overlapping intervalscode_development_request
Chart the weekly conversion rate from the signups tabledata_analytics_request
Draft a polite email to the vendor about the invoiceoffice_request
List every file in the reports directory and read summary.txttool_operation_request

Typical downstream uses:

  • request routing and capability selection,
  • AI agent orchestration,
  • policy and approval routing,
  • runtime monitoring.

Limitations

  • A positive prediction describes an apparent property of the input, not proof that an action was executed.
  • The model does not track information flow across multiple agent steps.
  • German and English are the primary evaluated languages; other languages run through the multilingual backbone but were not actively validated.
  • False positives and negatives are possible. High-impact enforcement should combine the model with deterministic policy and calibrated thresholds.

Model Variants

  • Panther Read Intent Classifier: full ModernBERT model in FP32 (model.safetensors).
  • Panther Read Intent Classifier ONNX (FP16): onnx/onnx_fp16/model_fp16.onnx in this repository.
  • Panther Read Intent Classifier Edge: quantized ONNX builds (int8, int8_int4_embeddings, fp16) in a separate edge repository.
  • Panther Read Intent Classifier NTDB L2: lightweight multilingual cascade components under l2/ for efficient local runtime classification.

Training Data

Trained on Patronus' in-house multilingual dataset for this task, built from cleaned real-world sources plus internally generated examples. Real-world sources were judge-cleaned by content (no keyword heuristics) and contaminated rows removed.

Augmentations

To improve robustness the dataset includes modern obfuscation techniques:

  • Unicode variants
  • Homoglyph attacks
  • Encodings (e.g. base64)
  • Tag wrappers (User:, System:)
  • HTML tags
  • Code comments
  • Spacing noise
  • Leetspeak
  • Case noise
  • Combination of N augmentation techniques

Regularization

  • Natural-language wrappers around the payload
  • Counterfactual samples
  • Trigger-word / spurious-correlation corpora
  • ~90% similarity deduplication with a train/(val ∪ test) leakage guard

Reducing bias

All augmentations and regularizers are applied to positive and negative examples alike so the model keys on content rather than surface form.

Benchmark

Held-out test set (n = 1,880), single-label:

MetricScore
Accuracy0.898
F1 (macro)0.899
Precision (macro)0.902
Recall (macro)0.897

Per-class F1:

ClassF1
code_development_request0.919
tool_operation_request0.918
data_analytics_request0.894
benign_conv0.889
office_request0.876

Usage

from transformers import pipeline

clf = pipeline("text-classification", model="patronus-studio/panther-read-intent-classifier")
clf("Chart the weekly conversion rate from the signups table")
# -> [{"label": "data_analytics_request", "score": 0.98}]

ONNX

The FP16 ONNX export lives under onnx/onnx_fp16; the quantized builds (int8, int8_int4_embeddings) live in the separate Panther Read Intent Classifier Edge repository. Apply a softmax over the logits and take the argmax:

from optimum.onnxruntime import ORTModelForSequenceClassification
from transformers import AutoTokenizer

model_id = "patronus-studio/panther-read-intent-classifier"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = ORTModelForSequenceClassification.from_pretrained(model_id, subfolder="onnx/onnx_fp16", file_name="model_fp16.onnx")

inputs = tokenizer("Chart the weekly conversion rate from the signups table", return_tensors="pt")
logits = model(**inputs).logits.detach().cpu().numpy()[0]
print(model.config.id2label[int(logits.argmax())])

Citation

@misc{pantherread2026,
  title={Panther Read Intent Classifier: Multilingual Classification for Real-World AI Agent Security},
  author={Patronus Protect},
  year={2026},
  howpublished={\url{https://huggingface.co/patronus-studio/panther-read-intent-classifier}}
}

License

This model is released under the Apache License 2.0. A copy of the license is included as LICENSE in this repository.

The model is derived from jhu-clsp/mmBERT-small, which is distributed under the MIT License. The upstream copyright and permission notice are retained; the MIT terms continue to apply to the portions originating from that work.

Patronus Ark

This model is built to run inside Patronus Ark, Patronus' open-source on-device AI-security scanning library (L1 native rules → L2 NTDB cascade → L3 transformer). Ark is open source: GitHub repository · product page.

More information


🛡️ Patronus Protect

Brought to you by Patronus Protect, a local AI firewall that secures every AI interaction, including prompts, tools and documents, before it reaches your models.

Try it for free at patronus.studio.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
ModernBertForSequenceClassification
Ревизия весов
74ec1d5

0 моделей