/ Модель

Характеристики

Контекст
514 токенов
Параметры
305 млн
Лицензия
OpenRAIL
Архитектура
xlm-roberta · dense
Опубликована
25 янв 2023

xlm-roberta-base-finetuned-HC3-mix

Классификация текстаТекст → label3 профессии

Многоязычная XLM-RoBERTa, дообученная на HC3 для определения, написан ли текст человеком или ChatGPT.

87скачиваний за 30 дней8лайковвеса обновлены19 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mrm8488 дообучил XLM-RoBERTa Base на корпусе Hello-SimpleAI HC3 для классификации текста, написанного человеком или ChatGPT. Модель предназначена для выявления текстов, сгенерированных ChatGPT, и сравнения их с человеческими ответами.

Это плотная трансформерная модель с архитектурой XLMRobertaForSequenceClassification, примерно 305,2 млн параметров и контекстом до 514 токенов. Базовая XLM-RoBERTa предварительно обучена на многоязычных данных; в метаданных указана поддержка широкого набора языков. В README приведено значение F1 0,9736 на оценке авторов, но условия этой оценки не описаны.

Сценарии применения

  • проверка текста на вероятную генерацию ChatGPT
  • сравнение человеческих и сгенерированных ответов
  • классификация текста для анализа происхождения ответа

Ограничения

Обучение на HC3 для обнаружения ChatGPT ограничивает надёжность выводов для других генераторов, жанров и языков. Указанный F1 приведён без описания условий оценки и не гарантирует точность на новых данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

XLM-RoBERTa (base) fine-tuned on HC3 for ChatGPT text detection

XLM-RoBERTa (base) fine-tuned on Hello-SimpleAI HC3 corpus for ChatGPT text detection.

All credit to Hello-SimpleAI for their huge work!

F1 score on test dataset: 0.9736

The model

XLM-RoBERTa model pre-trained on 2.5TB of filtered CommonCrawl data containing 100 languages. It was introduced in the paper Unsupervised Cross-lingual Representation Learning at Scale by Conneau et al. and first released in this repository.

The dataset

Human ChatGPT Comparison Corpus (HC3)

The first human-ChatGPT comparison corpus, named HC3 dataset by Hello-SimpleAI

This dataset is introduced in the paper:

Metrics

metricvalue
F10.9736

Usage

from transformers import pipeline

ckpt = "mrm8488/xlm-roberta-base-finetuned-HC3-mix"

detector = pipeline('text-classification', model=ckpt)

text = "Here your text..."

result = detector(text)

print(result)

Citation

@misc {manuel_romero_2023,
	author       = { {Manuel Romero} },
	title        = { xlm-roberta-base-finetuned-HC3-mix (Revision b18de48) },
	year         = 2023,
	url          = { https://huggingface.co/mrm8488/xlm-roberta-base-finetuned-HC3-mix },
	doi          = { 10.57967/hf/0306 },
	publisher    = { Hugging Face }
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForSequenceClassification
Ревизия весов
57d9249

0 моделей