Характеристики

Контекст: 514 токенов
Параметры: 305 млн
Архитектура: xlm-roberta · dense
Опубликована: 12 мая 2022

Ссылки

lang-classifier-roberta

Классификация текстаТекст → label9 профессий

Дообученная XLM-RoBERTa определяет язык текста среди 11 языков, включая русский, украинский и другие европейские и региональные языки.

16скачиваний за 30 дней5лайковвеса обновлены7 янв 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

nikitast/lang-classifier-roberta — модель классификации текста по языку, созданная дообучением RoBERTa. Она принимает текст и определяет, к одному из поддерживаемых языков он относится: русскому, украинскому, белорусскому, казахскому, азербайджанскому, венгерскому, армянскому, грузинскому, ивриту, английскому или немецкому. Модель основана на XLM-RoBERTa, содержит около 305,2 млн параметров и рассчитана на последовательности длиной до 514 токенов.

Модель дообучена на небольших выборках Open Subtitles, OSCAR и Tatoeba — примерно по 9 тысяч примеров на язык. В README приведены результаты проверки на отдельных выборках примерно по тысяче примеров на язык; для показанных классов F1 составляет от 0,976 до 0,998. Размер обучающих выборок ограничивает уверенность в качестве на текстах, которые отличаются от использованных данных. Репозиторий содержит веса PyTorch; сведения о лицензии в доступных данных отсутствуют.

Сценарии применения

определение языка входящего текста
маршрутизация текста в подходящий языковой конвейер
разметка языков в коллекции документов
фильтрация текстов по языку
автоматическая проверка языкового состава корпуса

Ограничения

Обучение проводилось на небольших выборках из Open Subtitles, OSCAR и Tatoeba, поэтому качество на других стилях и типах текста может отличаться. Указанное окно контекста ограничено 514 токенами.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RoBERTa for Single Language Classification

Training

RoBERTa fine-tuned on small parts of Open Subtitles, Oscar and Tatoeba datasets (~9k samples per language).

data source	language
open_subtitles	ka, he, en, de
oscar	be, kk, az, hu
tatoeba	ru, uk

Validation

The metrics obtained from validation on the another part of dataset (~1k samples per language).

index	class	f1-score	precision	recall	support
0	az	0.998	0.997	1.0	997
1	be	0.996	0.998	0.994	1004
2	de	0.976	0.966	0.987	979
3	en	0.976	0.986	0.967	1020
4	he	1.0	1.0	0.999	1001
5	hy	0.994	0.991	0.998	993
6	ka	0.999	0.999	0.999	1000
7	kk	0.996	0.998	0.993	1005
8	uk	0.982	0.997	0.968	1030
9	ru	0.982	0.968	0.997	971
10	macro_avg	0.99	0.99	0.99	10000
11	weighted avg	0.99	0.99	0.99	10000

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: XLMRobertaForSequenceClassification
Ревизия весов: 7c97c98