Характеристики

Контекст: 512 токенов
Параметры: 205 млн
Лицензия: Apache 2.0
Архитектура: bert · dense
Базовая модель: ossbert-onc-unlab-from_multilingual-bs64-5epochs
Библиотека: transformers
Опубликована: 4 авг 2026

Ссылки

Hugging Face

ossbert-morph-v2.1

ania3000

Разметка токеновТекст → label

Дообученная BERT-модель для классификации и разметки токенов в тексте.

0скачиваний за 30 дней1лайквеса обновлены10 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ossbert-morph-v2.1 — модель семейства BERT, дообученная авторами репозитория на неизвестном датасете для классификации токенов. Она содержит 205,1 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате safetensors. На указанном в карточке наборе оценки достигла accuracy 96,13%, sentence accuracy 63,30% и loss 0,3005. Модель предназначена для задач разметки отдельных токенов в тексте; конкретные метки и прикладной сценарий в карточке не описаны. Лицензия — Apache-2.0.

Сценарии применения

разметка токенов в последовательностях текста
классификация каждого слова или токена по заданным категориям
извлечение сущностей при наличии соответствующих меток

Ограничения

Назначение конкретных классов и обучающий датасет не описаны. Sentence accuracy на указанной оценке составляет 63,30%; метрики сами по себе не показывают качество на других данных.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ossbert-morph-v2.1

This model is a fine-tuned version of AlexeySorokin/ossbert-onc-unlab-from_multilingual-bs64-5epochs on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.3005
Accuracy: 96.1278
Sentence accuracy: 63.3028

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: linear
num_epochs: 25

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy	Sentence accuracy
0.9799	1.0	546	0.3471	92.2180	41.6514
0.3099	2.0	1092	0.2477	94.3358	52.8440
0.1942	3.0	1638	0.2150	94.7243	55.5963
0.1367	4.0	2184	0.2289	94.8872	54.6789
0.1013	5.0	2730	0.2131	95.5890	58.1651
0.0818	6.0	3276	0.2122	95.6516	58.3486
0.0621	7.0	3822	0.2380	95.6642	60.1835
0.0457	8.0	4368	0.2346	95.6642	59.0826
0.0381	9.0	4914	0.2426	95.7393	59.0826
0.0273	10.0	5460	0.2629	95.7895	60.5505
0.0163	11.0	6006	0.2672	95.7018	59.0826
0.0127	12.0	6552	0.2782	95.8020	60.7339
0.0095	13.0	7098	0.2812	95.7268	60.9174
0.0086	14.0	7644	0.2731	96.1529	63.4862
0.0077	15.0	8190	0.2939	95.8396	60.0
0.0065	16.0	8736	0.2985	95.9900	62.0183
0.0055	17.0	9282	0.2955	95.9774	61.6514
0.0029	18.0	9828	0.2982	96.0526	61.4679
0.0034	19.0	10374	0.3005	96.1278	63.3028

Framework versions

Transformers 4.57.3
Pytorch 2.11.0+cu130
Datasets 4.0.0
Tokenizers 0.22.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForTokenClassification
Ревизия весов: 641cd11