Характеристики

Контекст: 32 768 токенов
Параметры: 38,8 млрд
Размер весов: 78 ГБ
Архитектура: mistral · dense
Опубликована: 25 дек 2024

Ссылки

Hugging Face

Interleaved-upscale-magnum-v4-39B

Kaoeiri

Генерация текстаТекст → текст11 профессий

Объединённая на базе Mistral языковая модель с 38,8 млрд параметров для генерации текста и диалоговых сценариев.

15скачиваний за 30 дней0лайковвеса обновлены31 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Kaoeiri/Interleaved-upscale-magnum-v4-39B — объединённая модель большого языкового моделирования, созданная с помощью mergekit на основе anthracite-org/magnum-v4-22b. Она использует плотную архитектуру MistralForCausalLM с 38,8 млрд параметров и рассчитана на генерацию текста, включая диалоговые сценарии и интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors и предназначен для использования с Transformers.

Лицензия CC BY-ND 4.0 требует указания авторства и ограничивает распространение производных материалов согласно её условиям. Карточка описывает слияние методом passthrough, включающее anthracite-org/magnum-v4-22b.

Сценарии применения

генерация ответов в диалоговом интерфейсе
составление и продолжение текстов
создание текстовых ответов для интеграции с инструментами

Ограничения

В README и метаданных не заявлены языки обучения или специализированные предметные области. Лицензия CC BY-ND 4.0 ограничивает распространение производных материалов.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

license: cc-by-nd-4.0

base_model:

anthracite-org/magnum-v4-22b library_name: transformers tags:
mergekit
merge

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the passthrough merge method.

Models Merged

The following models were included in the merge:

anthracite-org/magnum-v4-22b

Configuration

The following YAML configuration was used to produce this model:

merge_method: passthrough
slices:
- sources:
  - layer_range: [0, 19]
    model: anthracite-org/magnum-v4-22b
# Original L19
- sources:
  - layer_range: [19, 20]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L19
- sources:
  - layer_range: [19, 20]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L19
- sources:
  - layer_range: [19, 20]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L20
- sources:
  - layer_range: [20, 21]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L20
- sources:
  - layer_range: [20, 21]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L20
- sources:
  - layer_range: [20, 21]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L21
- sources:
  - layer_range: [21, 22]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L21
- sources:
  - layer_range: [21, 22]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L21
- sources:
  - layer_range: [21, 22]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L22
- sources:
  - layer_range: [22, 23]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L22
- sources:
  - layer_range: [22, 23]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L22
- sources:
  - layer_range: [22, 23]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L23
- sources:
  - layer_range: [23, 24]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L23
- sources:
  - layer_range: [23, 24]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L23
- sources:
  - layer_range: [23, 24]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L24
- sources:
  - layer_range: [24, 25]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L24
- sources:
  - layer_range: [24, 25]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L24
- sources:
  - layer_range: [24, 25]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L25
- sources:
  - layer_range: [25, 26]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L25
- sources:
  - layer_range: [25, 26]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L25
- sources:
  - layer_range: [25, 26]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L26
- sources:
  - layer_range: [26, 27]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L26
- sources:
  - layer_range: [26, 27]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L26
- sources:
  - layer_range: [26, 27]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L27
- sources:
  - layer_range: [27, 28]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L27
- sources:
  - layer_range: [27, 28]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L27
- sources:
  - layer_range: [27, 28]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L28
- sources:
  - layer_range: [28, 29]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L28
- sources:
  - layer_range: [28, 29]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L28
- sources:
  - layer_range: [28, 29]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L29
- sources:
  - layer_range: [29, 30]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L29
- sources:
  - layer_range: [29, 30]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L29
- sources:
  - layer_range: [29, 30]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L30
- sources:
  - layer_range: [30, 31]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L30
- sources:
  - layer_range: [30, 31]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L30
- sources:
  - layer_range: [30, 31]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L31
- sources:
  - layer_range: [31, 32]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L31
- sources:
  - layer_range: [31, 32]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L31
- sources:
  - layer_range: [31, 32]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L32
- sources:
  - layer_range: [32, 33]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L32
- sources:
  - layer_range: [32, 33]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L32
- sources:
  - layer_range: [32, 33]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L33
- sources:
  - layer_range: [33, 34]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L33
- sources:
  - layer_range: [33, 34]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L33
- sources:
  - layer_range: [33, 34]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L34
- sources:
  - layer_range: [34, 35]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L34
- sources:
  - layer_range: [34, 35]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L34
- sources:
  - layer_range: [34, 35]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L35
- sources:
  - layer_range: [35, 36]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L35
- sources:
  - layer_range: [35, 36]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L35
- sources:
  - layer_range: [35, 36]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L36
- sources:
  - layer_range: [36, 37]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L36
- sources:
  - layer_range: [36, 37]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L36
- sources:
  - layer_range: [36, 37]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L37
- sources:
  - layer_range: [37, 38]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L37
- sources:
  - layer_range: [37, 38]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L37
- sources:
  - layer_range: [37, 38]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L38
- sources:
  - layer_range: [38, 39]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L38
- sources:
  - layer_range: [38, 39]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L38
- sources:
  - layer_range: [38, 39]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L39
- sources:
  - layer_range: [39, 40]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L39
- sources:
  - layer_range: [39, 40]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L39
- sources:
  - layer_range: [39, 40]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Original L40
- sources:
  - layer_range: [40, 41]
    model: anthracite-org/magnum-v4-22b
# Dupe A of L40
- sources:
  - layer_range: [40, 41]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# Dupe B of L40
- sources:
  - layer_range: [40, 41]
    model: anthracite-org/magnum-v4-22b
    parameters:
      scale:
      - filter: o_proj
        value: 0.0
      - filter: down_proj
        value: 0.0
      - value: 1.0
# ... REPEAT UNTIL 41
- sources:
  - layer_range: [41, 55]
    model: anthracite-org/magnum-v4-22b

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: 2a315dc