OPF RU+KK General V1 🛡️
OPF RU+KK General V1 — это модель для определения персональных и конфиденциальных данных (PII / Privacy Filter) в текстах на русском и казахском языках.Представляет собой промежуточный чекпоинт донастройки на смешанном русско-казахском датасете.
📌 Overview & Status
- Base Model:
bbeglerov/opf-russian-pii-66k - Dataset:
bbeglerov/opf-ru-kk-stage1-v1(af4eee21442534d5bf9771139524c8815fc0ed04) - Stage: General. Входной чекпоинт подготовлен к дообучению под доменный контекст.
⚙️ Hyperparameters & Training Setup
| Parameter | Value |
|---|---|
| Epochs | 1 |
| Learning Rate | 5e-6 |
| Batch Size (Physical / Effective) | 8 / 16 |
| Gradient Accumulation | 2 |
| Weight Decay | 0.01 |
| Max Grad Norm | 1.0 |
Context Length (n_ctx) | 128 |
| Output Precision | BF16 |
Revisions:
- Input Checkpoint Revision:
ae813a5aaeb31def75e87064818f0b1fbc65e31f - Privacy Filter Revision:
f7f00ca7fb869683eb732c010299d901457f19c3
🚀 Quickstart & Usage
from transformers import AutoTokenizer, AutoModelForTokenClassification, pipeline
model_id = "bbeglerov/opf-ru-kk-general-v1"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForTokenClassification.from_pretrained(model_id)
ner_pipeline = pipeline("token-classification", model=model, tokenizer=tokenizer, aggregation_strategy="simple")
# Пример текста / Text example (RU & KK)
text = "Менің атым Бауыржан, ИИН 010203501234, звоните на +77011234567"
results = ner_pipeline(text)
print(results)