/ Модель
Каталог

Характеристики

Контекст
32 768 токенов
Параметры
8,9 млрд
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
18 мар 2024

Ссылки

Hugging Face

Saul-Instruct-Extended

arcee-ai
Генерация текстаТекст → текст14 профессий

Объединённая инструктивная модель на архитектуре Mistral для диалоговой генерации текста и выполнения инструкций.

107скачиваний за 30 дней0лайковвеса обновлены18 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Saul-Instruct-Extended — объединённая с помощью mergekit инструктивная языковая модель, опубликованная arcee-ai. В README в качестве компонентов указана Equall/Saul-Instruct-v1; повторение одного и того же идентификатора не позволяет установить, объединялись ли разные варианты весов.

Модель основана на плотной архитектуре Mistral и содержит 8,9 млрд параметров. Она предназначена для диалоговой генерации текста и выполнения инструкций; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0.

Сценарии применения

  • ответы на инструкции в формате диалога
  • генерация связного текста по запросу
  • создание черновиков и кратких пояснений

Ограничения

README перечисляет один и тот же базовый идентификатор многократно, поэтому состав и эффект слияния неясны. Языковая специализация и качество на конкретных задачах в предоставленных данных не описаны.

Для каких профессий подходит14

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модельIII.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594моделиI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Saul-Instruct-Extended

Saul-Instruct-Extended is a merge of the following models using mergekit:

🧩 Configuration

  slices:
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 0
          - 4
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 3
          - 4
        parameters:
          scale:
            - filter: o_proj
              value: 0
            - filter: down_proj
              value: 0
            - value: 1
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 4
          - 8
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 7
          - 8
        parameters:
          scale:
            - filter: o_proj
              value: 0
            - filter: down_proj
              value: 0
            - value: 1
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 8
          - 12
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 11
          - 12
        parameters:
          scale:
            - filter: o_proj
              value: 0
            - filter: down_proj
              value: 0
            - value: 1
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 12
          - 16
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 15
          - 16
        parameters:
          scale:
            - filter: o_proj
              value: 0
            - filter: down_proj
              value: 0
            - value: 1
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 16
          - 20
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 19
          - 20
        parameters:
          scale:
            - filter: o_proj
              value: 0
            - filter: down_proj
              value: 0
            - value: 1
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 20
          - 24
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 23
          - 24
        parameters:
          scale:
            - filter: o_proj
              value: 0
            - filter: down_proj
              value: 0
            - value: 1
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 24
          - 28
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 27
          - 28
        parameters:
          scale:
            - filter: o_proj
              value: 0
            - filter: down_proj
              value: 0
            - value: 1
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 28
          - 32
  - sources:
      - model: Equall/Saul-Instruct-v1
        layer_range:
          - 31
          - 32
        parameters:
          scale:
            - filter: o_proj
              value: 0
            - filter: down_proj
              value: 0
            - value: 1
  merge_method: passthrough
  dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
a2aa07f

0 моделей

    Создать бенчмарк