/ Модель

Характеристики

Контекст
512 токенов
Параметры
436 млн
Лицензия
CC BY-NC 4.0
Архитектура
megatron-bert · dense
Опубликована
18 апр 2023

hucola-puli-bert-large-hungarian

Классификация текстаТекст → label3 профессии

Дообученная венгерская модель PULI BERT-Large классифицирует предложения по лингвистической приемлемости.

19скачиваний за 30 дней1лайквеса обновлены18 апр 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель NYTK/hucola-puli-bert-large-hungarian — дообученная версия PULI BERT-Large, разработанная для оценки лингвистической приемлемости предложений на венгерском языке. Она классифицирует входной текст, определяя, является ли предложение грамматически приемлемым; модель подходит для анализа венгерских текстов и экспериментов по обработке естественного языка.

Модель построена на архитектуре Megatron-BERT и содержит около 435,7 млн параметров. Метаданные указывают контекст до 512 токенов, а README отдельно сообщает ограничение max_seq_length=128. Используется набор данных NYTK/HuCOLA. Модель распространяется в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Сценарии применения

  • Проверка грамматической приемлемости предложений на венгерском языке
  • Автоматическая классификация венгерских предложений как приемлемых или неприемлемых
  • Эксперименты с оценкой грамматичности венгерского текста

Ограничения

README указывает max_seq_length=128, хотя метаданные сообщают контекст до 512 токенов; следует учитывать ограничение длины при использовании. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Hungarian Linguistic Acceptability with Finetuned PULI BERT-Large Model

For further details, see our demo site.

Limitations

  • max_seq_length = 128

Citation

If you use this model, please cite the following paper:

@inproceedings {yang-puli,
    title = {Jönnek a nagyok! BERT-Large, GPT-2 és GPT-3 nyelvmodellek magyar nyelvre},
	booktitle = {XIX. Magyar Számítógépes Nyelvészeti Konferencia (MSZNY 2023)},
	year = {2023},
	publisher = {Szegedi Tudományegyetem, Informatikai Intézet},
	address = {Szeged, Hungary},
	author = {Yang, Zijian Győző and Dodé, Réka and Ferenczi, Gergő and Héja, Enikő and Jelencsik-Mátyus, Kinga and Kőrös, Ádám and Laki, László János and Ligeti-Nagy, Noémi and Vadász, Noémi and Váradi, Tamás},
	pages = {247--262}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
MegatronBertForSequenceClassification
Ревизия весов
060582e

0 моделей