Longformer-large model finetuned for the coreference resolution task. The model is fine-tuned over the OntoNotes data. The model is released as part of this paper. Note that the document encoder is to be used with the rest of the model parameters to perform the coreference resolution task. For demo purposes, please check this Colab notebook.
Характеристики
- Контекст
- 4 098 токенов
- Параметры
- 454 млн
- Архитектура
- longformer · dense
Ссылки
longformer_coreference_ontonotes
Дообученная на OntoNotes модель Longformer для разрешения кореференции в длинных документах.
1 594скачиваний за 30 дней1лайквеса обновлены9 ноя 2021
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
shtoshni/longformer_coreference_ontonotes — модель Longformer-large, дообученная автором репозитория на данных OntoNotes для разрешения кореференции. Она предназначена для анализа документов: связывает упоминания одного и того же объекта или лица в разных частях текста. В README указано, что этот энкодер документов нужно использовать вместе с остальными параметрами модели для выполнения задачи; отдельно он предоставляет извлечения признаков.
Модель основана на архитектуре Longformer и содержит 454,1 млн параметров. Максимальная длина контекста — 4098 токенов; формат репозитория — PyTorch. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
Сценарии применения
- определение, какие упоминания относятся к одному человеку или объекту
- анализ связей между именами и местоимениями в документе
- разрешение кореференции в длинных текстах
Ограничения
Энкодер документов необходимо использовать вместе с остальными параметрами модели, чтобы выполнять разрешение кореференции. Лицензия в предоставленных источниках не указана.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модельI.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельII.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LongformerModel
- Ревизия весов
- 173bee9