/ Модель
Каталог

Характеристики

Контекст
131 072 токена
Параметры
122 млрд
Размер весов
245 ГБ
Лицензия
Своя лицензия
Архитектура
mistral · dense
Базовая модель
magnum-v4-123b
Библиотека
transformers
Опубликована
26 окт 2024

Ссылки

Hugging Face

Behemoth-v1.1-Magnum-v4-123B

knifeayumu
Генерация текстаТекст → текст6 профессий

Объединённая SLERP-модель семейства Mistral для диалоговой генерации текста и прозы с длинным контекстом.

22скачиваний за 30 дней5лайковвеса обновлены29 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Behemoth-v1.1-Magnum-v4-123B — объединённая текстовая модель от knifeayumu, созданная методом SLERP с помощью mergekit из TheDrummer/Behemoth-123B-v1.1 и anthracite-org/magnum-v4-123b. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 122,2 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате safetensors. Модель предназначена для диалоговой генерации текста и прозы, включая сценарии общения и интерфейс вызова инструментов.

Модель принимает текст и генерирует текст. В карточке указана лицензия other, поэтому условия использования следует сверять с лицензиями исходных моделей и условиями репозитория. Подтверждённые ограничения качества или использования в карточке не описаны.

Сценарии применения

  • ведение диалога с пользователем
  • написание художественной прозы
  • продолжение заданного текста
  • генерация ответов в чат-интерфейсе
  • вызов инструментов через диалоговый интерфейс

Ограничения

В README не приведены результаты оценки качества или подробные ограничения применения. Для модели указана лицензия other; перед использованием следует проверить условия исходных моделей и репозитория.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Not Horny Enough

The Drummer becomes hornier

Recipe based on MarsupialAI/Monstral-123B but uses TheDrummer/Behemoth-123B-v1.1 as the base.

This is a merge of pre-trained language models created using mergekit.

GGUF Quants:

Thank you mradermacher for honoring my request.

Merge Details

Merge Method

This model was merged using the SLERP merge method.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  - model: TheDrummer/Behemoth-123B-v1.1
  - model: anthracite-org/magnum-v4-123b
merge_method: slerp
base_model: TheDrummer/Behemoth-123B-v1.1
parameters:
  t: [0.1, 0.3, 0.6, 0.3, 0.1]
dtype: float16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
f664c47

0 моделей

    Создать бенчмарк