bert-base-uncased-snli
Дообученная BERT-модель TextAttack для определения логической связи между парами англоязычных предложений: следование, нейтральность или противоречие.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
textattack/bert-base-uncased-snli — модель семейства BERT, разработанная TextAttack и дообученная для задачи распознавания текстовых отношений на датасете SNLI. Она принимает пару предложений: посылку и гипотезу — и классифицирует их связь как следование, нейтральность или противоречие.
Модель имеет архитектуру BERT с 136,7 млн параметров и поддерживает контекст до 512 токенов. Она предназначена для классификации пар англоязычных предложений и исследовательских задач, связанных с natural language inference и оценкой устойчивости NLP-моделей. В Hugging Face доступна для Transformers и PyTorch, а также имеет совместимость с JAX.
Сильная сторона модели — специализированная настройка на SNLI и готовность к применению в задачах inference без дополнительного обучения. Ограничения связаны с узкой предметной специализацией, зависимостью от распределения данных SNLI и ограниченной длиной контекста; модель не является универсальной генеративной языковой моделью.
Сценарии применения
- проверка текстового следования между посылкой и гипотезой
- классификация пар предложений по отношениям entailment, neutral и contradiction
- оценка согласованности утверждений
- исследование устойчивости моделей распознавания текстовых отношений
- создание базовой модели для natural language inference
Ограничения
Модель обучена на SNLI и может хуже работать на текстах, отличающихся от распределения этого датасета. Она предназначена для классификации пар предложений и не выполняет генерацию текста.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…
- Класс архитектуры
- BertForSequenceClassification
- Ревизия весов
- d4ef8a6