/ Модель
Каталог

Характеристики

Контекст
4 096 токенов
Параметры
8,2 млрд
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
20 мар 2024

Ссылки

Hugging Face

Patent-Instruct-LLaMA-Pro

arcee-ai
Генерация текстаТекст → текст3 профессии

Объединённая модель LLaMA на 8,2 млрд параметров для диалоговой генерации текста, включая задачи по патентной тематике.

108скачиваний за 30 дней0лайковвеса обновлены20 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Patent-Instruct-LLaMA-Pro — объединённая с помощью mergekit языковая модель семейства LLaMA, разработанная Arcee AI на основе arcee-ai/Patent-Instruct-7b и TencentARC/LLaMA-Pro-8B-Instruct. Она предназначена для генерации текста в диалоговом формате и может применяться для ответов на вопросы и подготовки текстов по патентной тематике.

Модель имеет плотную архитектуру LlamaForCausalLM и 8,2 млрд параметров. Контекст составляет 4096 токенов; репозиторий содержит веса в формате safetensors. В метаданных указана лицензия Apache-2.0. README не уточняет языковой охват, методы оценки качества или ограничения применения.

Сценарии применения

  • ответы на вопросы по патентным документам
  • подготовка черновиков патентных описаний
  • генерация текста для диалоговых помощников
  • суммаризация патентных материалов

Ограничения

В README не приведены оценки качества и конкретные сведения о поддерживаемых языках. Контекст ограничен 4096 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIV.11Отраслевые задачиПатенты, товарные знаки и интеллектуальная собственностьAI помогает искать предшествующий уровень техники, оценивать портфель и отслеживать нарушения прав.32 задачи490моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Patent-Instruct-LLaMA-Pro

Patent-Instruct-LLaMA-Pro is a merge of the following models using mergekit:

🧩 Configuration

  merge_method: passthrough
  dtype: bfloat16
  slices:
  - sources:
      - model: arcee-ai/Patent-Instruct-7b 
        layer_range:
          - 0
          - 4
  - sources:
      - model: TencentARC/LLaMA-Pro-8B-Instruct
        layer_range:
          - 4
          - 5
  - sources:
      - model: arcee-ai/Patent-Instruct-7b
        layer_range:
          - 4
          - 8
  - sources:
      - model: TencentARC/LLaMA-Pro-8B-Instruct
        layer_range:
          - 9
          - 10
  - sources:
      - model: arcee-ai/Patent-Instruct-7b
        layer_range:
          - 8
          - 12
  - sources:
      - model: TencentARC/LLaMA-Pro-8B-Instruct
        layer_range:
          - 14
          - 15
  - sources:
      - model: arcee-ai/Patent-Instruct-7b
        layer_range:
          - 12
          - 16
  - sources:
      - model: TencentARC/LLaMA-Pro-8B-Instruct
        layer_range:
          - 19
          - 20
  - sources:
       - model: arcee-ai/Patent-Instruct-7b
         layer_range:
          - 16
          - 20
  - sources:
      - model: TencentARC/LLaMA-Pro-8B-Instruct
        layer_range:
          - 24
          - 25
  - sources:
      - model: arcee-ai/Patent-Instruct-7b
        layer_range:
          - 20
          - 24
  - sources:
      - model: TencentARC/LLaMA-Pro-8B-Instruct
        layer_range:
          - 29
          - 30
  - sources:
      - model: arcee-ai/Patent-Instruct-7b
        layer_range:
          - 24
          - 28
  - sources:
      - model: TencentARC/LLaMA-Pro-8B-Instruct
        layer_range:
          - 34
          - 35
  - sources:
      - model: arcee-ai/Patent-Instruct-7b
        layer_range:
          - 28
          - 32
  - sources:
      - model: TencentARC/LLaMA-Pro-8B-Instruct
        layer_range:
          - 39
          - 40

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
e79e038

0 моделей

    Создать бенчмарк