/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Базовая модель
LLaMAntino-3-ANITA-8B-Inst-DPO-ITA
Опубликована
9 июл 2024

LLaMAntino-3-SLIMER-IT

Генерация текстаТекст → текст6 профессий

SLIMER-IT — дообученная итальянская Llama 3 для извлечения именованных сущностей, в том числе новых типов, по инструкциям в режиме zero-shot.

15скачиваний за 30 дней6лайковвеса обновлены25 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SLIMER-IT — модель генерации текста на базе Meta Llama 3, разработанная expert.ai для извлечения именованных сущностей на итальянском языке в режиме zero-shot. Она дообучена на итальянской инструкционной модели swap-uniba/LLaMAntino-3-ANITA-8B-Inst-DPO-ITA и настроена распознавать сущности по заданному пользователем названию типа, определению и рекомендациям, включая типы сущностей, которых не было среди обучающих меток.

В README приведён пример извлечения мифологических сущностей и возврата результата в виде JSON-списка; модель также обучена на сокращённом наборе меток PER, ORG и LOC. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст — до 8192 токенов. Лицензия — Llama 3 Community License. Подходит для извлечения сущностей из итальянских текстов, однако точность зависит от качества инструкций, определений и рекомендаций; карточка не приводит количественных оценок качества.

Сценарии применения

  • Извлечение имён людей, организаций и мест из итальянских текстов
  • Поиск мифологических персонажей и существ в итальянских документах
  • Извлечение сущностей пользовательского типа по определению и рекомендациям
  • Преобразование результатов распознавания сущностей в JSON-список

Ограничения

Результаты зависят от ясности инструкций, определений и рекомендаций для извлекаемого типа; в карточке не приведены количественные оценки качества.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SLIMER-IT: Show Less Instruct More Entity Recognition - Italian language

SLIMER-IT is an LLM specifically instructed for zero-shot NER on Italian language.

Github repository: https://github.com/andrewzamai/SLIMER_IT

Instructed on a reduced number of tags (PER, ORG, LOC), it is designed to tackle never-seen-before Named Entity tags by leveraging a prompt enriched with a DEFINITION and GUIDELINES for the NE to be extracted.

Built with Meta Llama 3, based on the Italian instruction-tuned version swap-uniba/LLaMAntino-3-ANITA-8B-Inst-DPO-ITA

from vllm import LLM, SamplingParams

vllm_model = LLM(model="expertai/SLIMER-IT")

sampling_params = SamplingParams(temperature=0, max_tokens=128)

prompts = [prompter.generate_prompt(instruction, input) for instruction, input in instruction_input_pairs]
responses = vllm_model.generate(prompts, sampling_params)

Citation

If you find SLIMER-IT useful in your research or work, please cite the following paper:

@misc{zamai2024slimeritzeroshotneritalian,
      title={SLIMER-IT: Zero-Shot NER on Italian Language}, 
      author={Andrew Zamai and Leonardo Rigutini and Marco Maggini and Andrea Zugarini},
      year={2024},
      eprint={2409.15933},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2409.15933}, 
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
2030469

0 моделей