/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
6,6 млрд
Размер весов
27 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
7 авг 2023

UniNER-7B-type

Генерация текстаТекст → текст9 профессий

UniNER-7B-type извлекает из текста именованные сущности и присваивает им типы.

183скачиваний за 30 дней21лайквеса обновлены11 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

UniNER-7B-type — модель извлечения именованных сущностей, разработанная авторами проекта UniNER и дообученная на базе LLaMA-7B. Для обучения использовались тексты Pile-NER-type с метками типов сущностей, автоматически созданными GPT-3.5-turbo-0301 без ручной разметки. Модель принимает текстовый фрагмент и возвращает найденные сущности с их типами в виде списка пар.

Модель предназначена для распознавания сущностей по заданным типам и извлечения именованных сущностей из текстов. В README отмечено, что она лучше варианта UniNER-7B-definition справляется с тегами типов и показывает лучшие результаты на бенчмарке Universal NER, охватывающем 43 академических набора данных из 9 областей. Архитектура — плотная LLaMA для генерации текста, размер — 6,6 млрд параметров, контекст — 2048 токенов; в метаданных указан английский язык.

Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Поскольку разметка для обучения синтетическая, качество может зависеть от точности заданных типов и отличаться для текстов и категорий вне охвата обучения.

Сценарии применения

  • извлечение именованных сущностей из текстовых фрагментов
  • разметка сущностей по заданным типам
  • автоматическое составление списков сущностей из документов
  • обработка текстов для задач распознавания сущностей

Ограничения

Обучающая разметка создана автоматически с помощью GPT-3.5-turbo-0301, поэтому возможны ошибки, унаследованные от синтетических меток. Контекст модели ограничен 2048 токенами, а лицензия CC BY-NC 4.0 не допускает коммерческого использования.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

UniNER-7B-type

Description: A UniNER-7B model trained from LLama-7B using the Pile-NER-type data without human-labeled data. The data was collected by prompting gpt-3.5-turbo-0301 to label entities from passages and provide entity tags. The data collection prompt is as follows:

Check our paper for more information. Check our repo about how to use the model.

Comparison with UniNER-7B-definition

The UniNER-7B-type model excels when handling entity tags. It performs better on the Universal NER benchmark, which consists of 43 academic datasets across 9 domains. In contrast, UniNER-7B-definition performs better at processing entity types defined in short sentences and is more robust to type paraphrasing.

Inference

The template for inference instances is as follows:

Note: Inferences are based on one entity type at a time. For multiple entity types, create separate instances for each type.

License

This model and its associated data are released under the CC BY-NC 4.0 license. They are primarily used for research purposes.

Citation

@article{zhou2023universalner,
      title={UniversalNER: Targeted Distillation from Large Language Models for Open Named Entity Recognition}, 
      author={Wenxuan Zhou and Sheng Zhang and Yu Gu and Muhao Chen and Hoifung Poon},
      year={2023},
      eprint={2308.03279},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
ac4df9a

0 моделей