/ Модель

Характеристики

Контекст
131 072 токена
Параметры
145 млн
Лицензия
Своя лицензия
Архитектура
privacy_filter · MoE
Базовая модель
privacy-filter
Библиотека
privacy-filter
Опубликована
1 мая 2026

opf-russian-pii-66k

Разметка токеновТекст → label6 профессий

Дообученная OpenAI Privacy Filter для поиска и разметки персональных данных в русскоязычных финансовых и клиентских текстах перед их фильтрацией или анонимизацией.

81скачиваний за 30 дней6лайковвеса обновлены1 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OPF Russian PII 66K — дообученная модель OpenAI Privacy Filter, разработанная для выявления и разметки персональных данных в русском тексте. Это модель token classification семейства privacy_filter с архитектурой MoE, около 145,4 млн параметров; она выдаёт OPF-совместимые предсказания фрагментов и поддерживает локальную фильтрацию перед обработкой текста LLM или RAG-системами.

Модель предназначена для текстов финансовых сервисов, поддержки клиентов и колл-центров. Она распознаёт имена, телефоны, адреса, даты, номера счетов и документов, налоговые номера, имена пользователей и секреты, помогая строить конвейеры маскирования и анонимизации. Карточка приводит высокие метрики на валидационной выборке обучающего датасета, но предупреждает, что они не гарантируют качество на реальных данных вне этого распределения.

Модель дообучена на bbeglerov/russian-pi-66k-opf на базе openai/privacy-filter и опубликована в формате safetensors. Лицензия указана как other. Не рекомендуется использовать её как единственную меру защиты персональных данных без дополнительной проверки; возможны ошибки на шумных транскрипциях, казахском и смешанном тексте, новых форматах, намеренно скрытых данных и текстах из других областей.

Сценарии применения

  • поиск персональных данных в русскоязычных обращениях клиентов
  • маскирование телефонов, адресов и номеров счетов перед обработкой LLM
  • анонимизация текстов финансовой поддержки и колл-центров
  • фильтрация персональных данных перед индексацией документов в RAG
  • разметка персональных данных для проверки текстовых наборов

Ограничения

Метрики получены на валидационной выборке того же датасета и не гарантируют качество на реальных данных. Возможны ошибки на шумной речи, казахском и смешанном тексте, новых форматах и обфусцированных данных; модель не следует использовать как единственную меру защиты.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OPF Russian PII 66K — Fine-tuned OpenAI Privacy Filter

Fine-tuned checkpoint of openai/privacy-filter for Russian PII detection and anonymization tasks.

This model is intended for detecting personal and sensitive information in Russian fintech-style text, with future extension toward Kazakh and mixed Russian/Kazakh call-center transcripts.

Model Details

  • Base model: openai/privacy-filter
  • Task: PII detection / token classification / anonymization support
  • Domain: Russian fintech-style privacy filtering
  • Training dataset: bbeglerov/russian-pi-66k-opf
  • Checkpoint format: safetensors
  • Output: OPF-compatible span predictions

Intended Use

This checkpoint is intended for:

  • detecting PII in Russian text;
  • privacy filtering before LLM/RAG processing;
  • anonymization pipelines for fintech, customer-support, and call-center transcripts;
  • research on multilingual PII detection for Russian and Kazakh.

Out-of-Scope Use

This model should not be used as the only privacy/security control in production without additional validation.

It may fail on:

  • noisy ASR transcripts;
  • Kazakh-only text;
  • mixed Russian/Kazakh/English conversations;
  • unseen document formats;
  • adversarial or deliberately obfuscated PII;
  • domains far from the training distribution.

For production use, combine the model with rule-based validators, logging, red-team tests, and human review for high-risk workflows.

Labels

The model was trained with a custom OPF-compatible label space.

Main labels include:

  • private_person
  • private_phone
  • private_email
  • private_address
  • private_date
  • social_number
  • account_number
  • id_card_number
  • driver_license_number
  • tax_number
  • username
  • secret

Usage

Install OpenAI Privacy Filter from the official repository:

git clone https://github.com/openai/privacy-filter.git
cd privacy-filter
pip install -e .

Download this checkpoint:

hf download YOUR_USERNAME/YOUR_MODEL_REPO \
  --local-dir ./opf-russian-pii-66k

Run inference:

opf --checkpoint ./opf-russian-pii-66k \
"Меня зовут Ержан Ахметов, мой ИИН 990101300123, телефон +7 777 123 45 67, адрес Алматы, Абая 10."

Training

Training was performed with OPF fine-tuning on bbeglerov/russian-pi-66k-opf.

Approximate training command:

opf train /workspace/data/russian-pi-66k-opf/data/train.jsonl \
  --label-space-json /workspace/data/russian-pi-66k-opf/label_space.json \
  --checkpoint /workspace/models/openai-privacy-filter \
  --output-dir /workspace/outputs/opf-russian-pii-66k \
  --epochs 1 \
  --batch-size 8 \
  --grad-accum-steps 2 \
  --learning-rate 1e-5 \
  --weight-decay 0.01 \
  --max-grad-norm 1.0 \
  --n-ctx 128 \
  --output-param-dtype bf16 \
  --device cuda

Evaluation

Evaluation was performed on the validation split of bbeglerov/russian-pi-66k-opf.

Typed Detection Metrics

MetricValue
Precision0.9990
Recall0.9988
F10.9989
Span Precision0.9961
Span Recall0.9961
Span F10.9961
Token Accuracy0.9984
Loss0.0072

Per-Class Span F1

LabelF1
account_number0.9988
private_address0.9959
private_date1.0000
private_email0.9991
private_person0.9929
private_phone1.0000
secret0.9968
username0.9948
tax_number0.9982
id_card_number0.9912
social_number1.0000
driver_license_number0.9851

Important Evaluation Caveat

These results are measured on the validation split from the same dataset distribution used for fine-tuning.

High validation scores do not guarantee production performance on real call-center transcripts, noisy ASR output, Kazakh text, or mixed-language conversations.

Recommended additional evaluation:

  • negative set with no PII;
  • noisy ASR-style text;
  • mixed Russian/Kazakh/English text;
  • real manually reviewed fintech transcripts;
  • comparison against the base openai/privacy-filter checkpoint.

Limitations

The model may overfit to the structure and formatting of bbeglerov/russian-pi-66k-opf.

Known risk areas:

  • false positives on short person-like tokens;
  • reduced robustness on noisy transcription;
  • limited Kazakh coverage;
  • possible label confusion between numeric identifiers;
  • domain shift outside synthetic or converted PII datasets.

Roadmap

Planned next versions:

  • v2: mixed Russian + Kazakh PII dataset;
  • Kazakh-specific labels and examples;
  • ASR-noisy call-center evaluation set;
  • hard-negative benchmark;
  • comparison against base OPF and rule-based baselines.

Citation / Attribution

Base model:

openai/privacy-filter

Training dataset:

bbeglerov/russian-pi-66k-opf

Upstream source dataset:

wolframko/russian-pii-66k

Please check upstream dataset license and attribution requirements before using this model in public or commercial settings.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · privacy-filter · token-classification

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Ревизия весов
ae813a5

0 моделей