/ Модель

Характеристики

Контекст
512 токенов
Параметры
205 млн
Архитектура
bert · dense

bert-base-multilingual-cased-language-detection

Классификация текстаТекст → label9 профессий

Многоязычный классификатор на базе BERT определяет язык текста среди 45 поддерживаемых языков.

12 879скачиваний за 30 дней14лайковвеса обновлены24 ноя 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель jb2k/bert-base-multilingual-cased-language-detection — классификатор для определения языка текста, созданный дообучением bert-base-multilingual-cased на наборе common language. Она предсказывает один из 45 языков, включая русский, английский, китайский, арабский и другие. Модель построена на архитектуре BERT с классификационной головой, содержит 205,1 млн параметров и принимает последовательности длиной до 512 токенов.

Модель предназначена для автоматической маршрутизации текстов по языку, предварительной обработки многоязычных данных и определения языка пользовательских сообщений. В README указана точность 97,8% на тестовом разделении common language dataset. Опубликована в формате PyTorch; лицензия в предоставленных данных не указана.

Сценарии применения

  • определение языка короткого сообщения
  • маршрутизация текста в нужную языковую систему
  • сортировка многоязычных документов по языку
  • определение языка пользовательского ввода

Ограничения

В README приведена точность 97,8% на тестовом разделении набора common language; результаты на других данных могут отличаться. Максимальная длина входа — 512 токенов.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bert-base-multilingual-cased-language-detection

A model for language detection with support for 45 languages

Model description

This model was created by fine-tuning bert-base-multilingual-cased on the common language dataset. This dataset has support for 45 languages, which are listed below:

Arabic, Basque, Breton, Catalan, Chinese_China, Chinese_Hongkong, Chinese_Taiwan, Chuvash, Czech, Dhivehi, Dutch, English, Esperanto, Estonian, French, Frisian, Georgian, German, Greek, Hakha_Chin, Indonesian, Interlingua, Italian, Japanese, Kabyle, Kinyarwanda, Kyrgyz, Latvian, Maltese, Mongolian, Persian, Polish, Portuguese, Romanian, Romansh_Sursilvan, Russian, Sakha, Slovenian, Spanish, Swedish, Tamil, Tatar, Turkish, Ukranian, Welsh

Evaluation

This model was evaluated on the test split of the common language dataset, and achieved the following metrics:

  • Accuracy: 97.8%

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
aa4473b

0 моделей