/ Модель

Характеристики

Контекст
131 072 токена
Параметры
1,5 млрд
Архитектура
qwen2 · dense
Опубликована
4 ноя 2024

ADELIE-DPO-1.5B

Генерация текстаТекст → текст8 профессий

Дообученная на инструкциях и выровненная методом DPO модель Qwen2.5-1.5B для извлечения сущностей, отношений и событий из английского текста.

37скачиваний за 30 дней5лайковвеса обновлены4 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ADELIE-DPO-1.5B — дообученная языковая модель, разработанная Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou и Juanzi Li для извлечения информации из текста. Она основана на Qwen2.5-1.5B и дополнительно выровнена методом Direct Preference Optimization (DPO) после инструкционного дообучения на корпусе IEInstruct. Архитектура — плотная Qwen2ForCausalLM с 1,5 млрд параметров и контекстом до 131 072 токенов.

Модель предназначена для закрытого и открытого извлечения информации, а также извлечения по запросу: распознавания сущностей, извлечения отношений и событий. В карточке сообщается о результатах на отложенных наборах данных для извлечения информации и отсутствии заметного ухудшения общих возможностей. Основной язык — английский. Лицензия указана как LLaMA 2 License для базовой модели.

Сценарии применения

  • извлечение именованных сущностей из текста
  • извлечение отношений между сущностями
  • извлечение событий и их аргументов
  • открытое извлечение информации по тексту
  • извлечение фактов по пользовательскому запросу

Ограничения

Оценка в карточке основана на наборах данных и экспериментах, описанных авторами; результаты могут не переноситься на другие типы текстов и сценарии. В карточке указана лицензия LLaMA 2 для базовой модели.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for ADELIE-DPO-1.5B

Model Performance

The table below presents the average F1 scores (%) of the ADELIE model across closed IE, open IE, and on-demand IE tasks, as well as its overall performance (%) on general benchmarks. For dataset details, please refer to the paper.

ModelClosed IEOpen IEOn-demand IEGeneral Average Score
Llama2 7B5.75.622.452.2
ADELIE-SFT42.646.960.453.5
ADELIE-DPO42.747.660.553.8
--------------------------------------------------------------------------
Llama3.2 3B19.118.520.855.5
ADELIE-SFT-3B41.847.660.855.6
ADELIE-DPO-3B39.247.860.755.6
--------------------------------------------------------------------------
Qwen2.5 1.5B16.514.220.554.6
ADELIE-SFT-1.5B37.744.658.955.0
ADELIE-DPO-1.5B38.545.659.255.1

Model Description

  • Developed by: Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou, Juanzi Li
  • Model type: Text Generation
  • Language(s) (NLP): English
  • License: LLaMA2 License for the base model.
  • Finetuned from model [optional]: Qwen2.5-1.5B

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
1357246

0 моделей