Longformer-модель для классификации текста с целью выявления машинно-сгенерированного контента.
536скачиваний за 30 дней4лайкавеса обновлены22 мая 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
MAGE — модель семейства Longformer для классификации текста, предназначенная для выявления машинно-сгенерированных текстов в реальных условиях. Она разработана для задачи определения происхождения текста и представлена в виде модели классификации последовательностей на базе Transformers и PyTorch.
Модель содержит 151,8 млн параметров и поддерживает контекст до 4098 токенов. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0.
Карточка называет задачу обнаружения машинно-сгенерированного текста, но не приводит подробностей об обучающих данных, перечне языков и точности. Классификатор может ошибаться на текстах, отличающихся от тех, на которых его обучали.
Сценарии применения
проверка текста на вероятное машинное происхождение
фильтрация машинно-сгенерированных материалов в пользовательском контенте
анализ происхождения текстов в исследовательских корпусах
Ограничения
Карточка не сообщает о языковом охвате и точности; качество выявления может зависеть от языка, жанра и способа генерации текста.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
Please check out our Github repo for detailed information. If you use this model in your research, please cite it as follows:
@misc{li2024mage,
title={MAGE: Machine-generated Text Detection in the Wild},
author={Yafu Li and Qintong Li and Leyang Cui and Wei Bi and Zhilin Wang and Longyue Wang and Linyi Yang and Shuming Shi and Yue Zhang},
year={2024},
eprint={2305.13242},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров