/ Модель

Характеристики

Контекст
512 токенов
Параметры
434 млн
Архитектура
bert · dense

bleurt-large-512

Классификация текстаТекст → label5 профессий

PyTorch-версия BLEURT на базе BERT для автоматической оценки качества сгенерированного текста.

253скачиваний за 30 дней1лайквеса обновлены15 дек 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Elron/bleurt-large-512 — версия BLEURT в формате PyTorch, созданная на основе оригинальных моделей BLEURT из работы Google Research «BLEURT: Learning Robust Metrics for Text Generation». Это модель семейства BERT с архитектурой BertForSequenceClassification и примерно 433,9 млн параметров; она принимает текстовые входы и выдаёт оценку для задачи классификации текста. Максимальная длина контекста — 512 токенов.

Модель предназначена для оценки качества текстовой генерации, в частности для автоматического сопоставления сгенерированного текста с эталоном. Её можно подключить через Transformers как AutoModelForSequenceClassification вместе с токенизатором.

В README не указаны лицензия и поддерживаемые языки, поэтому условия использования по этим параметрам уточнить нельзя. Карточка описывает PyTorch-представление BLEURT; отдельные сведения о дообучении этой версии не приведены.

Сценарии применения

  • оценка качества машинного перевода по эталонному тексту
  • сравнение сгенерированного ответа с эталоном
  • автоматическая оценка текстовых систем в экспериментах
  • ранжирование вариантов сгенерированного текста по качеству

Ограничения

Контекст ограничен 512 токенами. В README не указаны лицензия и языки, на которых модель проверялась или предназначена для использования.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

BLEURT

Pytorch version of the original BLEURT models from ACL paper "BLEURT: Learning Robust Metrics for Text Generation" by Thibault Sellam, Dipanjan Das and Ankur P. Parikh of Google Research.

The code for model conversion was originated from this notebook mentioned here.

Usage Example

from transformers import AutoModelForSequenceClassification, AutoTokenizer
import torch

tokenizer = AutoTokenizer.from_pretrained("Elron/bleurt-large-512")
model = AutoModelForSequenceClassification.from_pretrained("Elron/bleurt-large-512")
model.eval()

references = ["hello world", "hello world"]
candidates = ["hi universe", "bye world"]

with torch.no_grad():
  scores = model(**tokenizer(references, candidates, return_tensors='pt'))[0].squeeze()
print(scores) # tensor([0.9877, 0.0475])

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
00397b0

0 моделей