/ Модель
Каталог

Характеристики

Контекст
32 768 токенов
Параметры
22 млрд
Размер весов
44,5 ГБ
Архитектура
mistral · dense
Опубликована
25 дек 2024

Ссылки

Hugging Face

Magnum-v4-Cydonia-v1.3-22B

Kaoeiri
Генерация текстаТекст → текст

Объединённая 22-миллиардная модель Mistral для диалогов, следования инструкциям и генерации текста на английском языке.

17скачиваний за 30 дней1лайквеса обновлены31 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Kaoeiri/Magnum-v4-Cydonia-v1.3-22B — объединение двух предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP. В состав объединения входят anthracite-org/magnum-v4-22b и TheDrummer/Cydonia-22B-v1.3; архитектура — плотная MistralForCausalLM с 22 млрд параметров, веса опубликованы в формате safetensors. Модель предназначена для генерации текста и диалогового использования; каталог отмечает интерфейс вызова инструментов. Контекст модели составляет 32 768 токенов.

Базовая модель Magnum-v4-22B ориентирована на диалоги, следование инструкциям и связную прозу на английском языке; это указывает на английский как основной язык применения объединения. Карточка указывает лицензию CC BY-ND 4.0. Конкретные результаты оценки качества и ограничения применения в карточке не описаны.

Сценарии применения

  • ведение диалогов на английском языке
  • создание связной прозы
  • ответы на инструкции пользователя
  • генерация текста с контекстом до 32 768 токенов
  • подключение вызова инструментов в диалоговом интерфейсе

Ограничения

Карточка не приводит оценок качества или подробных ограничений. Основной язык, отмеченный для базовой модели, — английский.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

license: cc-by-nd-4.0

base_model:

  • anthracite-org/magnum-v4-22b
  • TheDrummer/Cydonia-22B-v1.3 library_name: transformers tags:
  • mergekit
  • merge

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the SLERP merge method.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  - model: anthracite-org/magnum-v4-22b
  - model: TheDrummer/Cydonia-22B-v1.3
merge_method: slerp
base_model: anthracite-org/magnum-v4-22b
parameters:
  t: [0.1, 0.3, 0.6, 0.3, 0.1]
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
e2705a1

0 моделей

    Создать бенчмарк