/ Модель

Характеристики

Контекст
131 072 токена
Параметры
122 млрд
Размер весов
245 ГБ
Лицензия
Своя лицензия
Архитектура
mistral · dense
Опубликована
24 ноя 2024

Behemoth-123B-v2.2

Генерация текстаТекст → текст3 профессии

Дообученная 123-миллиардная модель Mistral для творческого письма, приключенческих историй и ролевых диалогов с необычной, свободной манерой генерации.

89скачиваний за 30 дней27лайковвеса обновлены26 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Behemoth-123B-v2.2 — диалоговая языковая модель BeaverAI от TheDrummer, созданная как дообучение Largestral 2411. Она предназначена для генерации текста, творческого письма и ролевых диалогов; версия v2.2 усиливает необычность и непредсказуемость прозы и лучше подходит для приключенческих историй, чем для строгого следования заданному стилю ролевой игры. Модель имеет плотную архитектуру MistralForCausalLM и содержит 122,2 млрд параметров. Метаданные указывают контекст до 131 072 токенов и формат весов safetensors; карточка описывает поддержку системных инструкций с шаблоном Metharme и токенами Mistral.

Модель ориентирована на англоязычные сценарии творческого письма и общения, однако README не перечисляет поддерживаемые языки явно. Её сильная сторона — выразительная, оригинальная проза и пригодность для приключенческих сюжетов. Повышенная хаотичность может мешать строгому следованию инструкциям и стабильности ролевых сцен. Лицензия указана как other, без более точных условий в предоставленных данных.

Сценарии применения

  • написание необычной художественной прозы
  • создание приключенческих историй
  • ведение творческих ролевых диалогов
  • генерация идей и сюжетных поворотов

Ограничения

Модель может выдавать чрезмерно хаотичную прозу и хуже подходит для строгого ролевого отыгрыша или точного следования ограничениям. README не уточняет условия лицензии beyond метки other.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Join our Discord! https://discord.gg/Nbv9pQ88Xb

Nearly 2500 members strong 💪

Now with more channels! A hub for creatives and makers alike!


BeaverAI proudly presents...

The finetune that made people buy another 3090...

Behemoth 123B v2.2 🦣 - Chaos Edition

Nothing in the void is foreign to us. The place we go is the place we belong.

image/png

Links

Description

Behemoth v2.x is a finetune of the new Largestral 2411 with system prompt support. Testers have noted that everything felt improved.

Usage

Testers say this frankenformat maximizes the model's potential: Metharme with Mistral's new system tokens

  • [SYSTEM_PROMPT] <|system|>{{system_message}}[/SYSTEM_PROMPT]<|user|>{{user_message}}<|model|>{{assistant_message}}
  • <|system|>[SYSTEM_PROMPT] {{system_message}}[/SYSTEM_PROMPT]<|user|>{{user_message}}<|model|>{{assistant_message}}

Take note that the opening system tag SHOULD ALWAYS have a leading whitespace after it.

Complete SillyTavern Settings in BeaverAI Club: https://discord.com/channels/1238219753324281886/1309968730301792370/1309968730301792370

Mirror: https://rentry.org/cd32disa

Versions

  • v2.0 is equivalent to Behemoth v1.0 (Classic)
    • Claude-like creativity and prose
    • Very familiar style
    • Solid for all tasks
  • v2.1 is equivalent to Behemoth v1.1 (Creative Boost)
    • Creative and lively
    • Unique prose
    • Balanced enough for RP and other tasks
  • v2.2 is a cranked up version of Behemoth v2.1 (Unhinged)
    • Creatively unhinged
    • Constantly unique prose
    • May be too chaotic for strict RP, thrives in adventure / story

Special Thanks

Thank you to each and everyone who donated/subscribed in Ko-Fi 🙇 I hope to never disappoint!

Toasty Pigeon
theguywhogamesalot
Grozi
F
Marinara
Ko-fi Supporter
Grozi
Phaelon
ONTHEREDTEAM 
EvarinSharath'fe(USM-Valor)
Silva
Dakkidaze
AlexTheVP
Pseudo
Kistara
Dr. Fjut
Grozi 🥈
KinjiHakari777
dustywintr
Syd
HumbleConsumer
Syd
Ko-fi Supporter
Arkamist
joe 🥇
Toad
Lied
Konnect
Kistara
Grozi 🥉
SleepDeprived3
Luigi
Nestor

https://ko-fi.com/thedrummer/leaderboard

Finetuned by yours truly,
Drummer

Thank you Gargy for the GPUs!

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
5fdcf3d

0 моделей