Корейская DeBERTa-v2, дообученная на kor-nli и klue-nli для классификации отношений между посылкой и гипотезой и zero-shot-классификации.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
deliciouscat/kf-deberta-base-cross-nli — модель классификации последовательностей на базе DeBERTa-v2, опубликованная пользователем deliciouscat на Hugging Face. Она дообучена на корейских наборах kor-nli и klue-nli для определения отношений между посылкой и гипотезой в формате NLI; карточка приводит точность 0,889667 на тесте KLUE-NLI.
Модель содержит 213,1 млн параметров, использует Transformers и принимает пары текстов с контекстом до 512 токенов. Её можно применять для классификации текстовых пар и zero-shot-классификации, задавая кандидаты гипотез. Лицензия — MIT. Указанная в README настройка токенизатора обрезает вход до 128 токенов.
Обучение и приведённая оценка относятся к корейским NLI-данным, поэтому качество на других языках и задачах не подтверждено. README приводит точность на KLUE-NLI, но не описывает другие метрики или ограничения.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
kor-nli 및 klue-nli로 학습하였습니다.
test accuracy(KLUE-NLI): 0.889667
model_name = 'deliciouscat/kf-deberta-base-cross-nli'
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name, num_labels=3).to(device)
def encode(examples):
return tokenizer(examples['premise'], examples['hypothesis'], truncation=True, padding='max_length', max_length=128)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers · text-classification
Подбираем GPU…