/ Модель

Характеристики

Контекст
512 токенов
Параметры
190 млн
Лицензия
afl-3.0
Архитектура
bert · dense
Опубликована
26 мая 2023

KazakhBERTmulti

Заполнение пропусковТекст → текст3 профессии

BERT-модель для предсказания замаскированных токенов в казахском тексте.

65скачиваний за 30 дней5лайковвеса обновлены1 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KazakhBERTmulti — модель семейства BERT от amandyk для заполнения пропусков в тексте на казахском языке. Она принимает последовательность с замаскированным токеном и предсказывает подходящие варианты, что подходит для анализа контекста и языковых экспериментов.

Модель имеет архитектуру BertForMaskedLM, содержит 190 млн параметров и поддерживает контекст длиной до 512 токенов. Доступны веса PyTorch. В карточке приведена ссылка на исследование морфологических особенностей казахского языка и их влияния на качество машинного перевода.

Лицензия — AFL-3.0. В карточке не приведены оценки качества и подробные сведения о данных обучения; пригодность для других языков не подтверждена.

Сценарии применения

  • подстановка пропущенного слова в казахском предложении
  • получение вариантов продолжения по контексту казахского текста
  • изучение контекстных представлений казахских слов

Ограничения

Карточка не содержит результатов оценки качества или сведений о данных обучения. Поддержка языков, кроме казахского, не подтверждена.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

If you use this model, please consider citing the paper:

E. Bekbulatov and A. Kartbayev, "A study of certain morphological structures of Kazakh and their impact on the machine translation quality," 2014 IEEE 8th International Conference on Application of Information and Communication Technologies (AICT), 2014, pp. 1-5, doi: 10.1109/ICAICT.2014.7036013.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForMaskedLM
Ревизия весов
bf6b4ed

0 моделей