Характеристики

Контекст: 131 072 токена
Параметры: 122 млрд
Размер весов: 245 ГБ
Лицензия: Своя лицензия
Архитектура: mistral · dense
Опубликована: 21 окт 2024

Ссылки

Behemoth-123B-v1.1

Генерация текстаТекст → текст3 профессии

Крупная текстовая модель семейства Mistral для генерации диалогов, творческой прозы и ролевых сцен с длинным контекстом.

83скачиваний за 30 дней25лайковвеса обновлены26 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Behemoth-123B-v1.1 — текстовая авторегрессионная модель семейства Mistral от TheDrummer, представленная BeaverAI как Creative Edition. Она рассчитана на генерацию текста и диалогов, особенно на творческое письмо и ролевые сценарии: модель ведёт сцены и персонажей, поддерживает атмосферу и может возвращаться к деталям из более раннего контекста. В карточке заявлено окно контекста до 131 072 токенов и размер около 122,2 млрд параметров; доступны шаблоны чата Mistral, Metharme и Alpaca, а также режим завершения текста.

Модель подходит для написания прозы, интерактивных историй и ролевых диалогов. README приводит положительные пользовательские отзывы о выразительности и последовательности версии 1.1, но не содержит формальных оценок качества. В репозитории указаны веса Safetensors; лицензия обозначена как other, поэтому перед использованием следует проверить её условия на странице модели.

Сценарии применения

написание атмосферной художественной прозы
ролевая переписка с персонажами
генерация диалогов и описаний сцен
продолжение пользовательского текста
создание интерактивных историй с сохранением деталей контекста

Ограничения

Отзывы о качестве в README субъективны и не подкреплены формальными бенчмарками. Условия лицензии с пометкой other нужно уточнить перед использованием.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Join our Discord! https://discord.gg/Nbv9pQ88Xb

Nearly 2000 members strong 💪

BeaverAI proudly presents...

Behemoth 123B v1.1 🦣 - Creative Edition

When you spend your whole life living under a dome, even the idea of an ocean seems impossible to imagine.

image/png

Description

One of the few other models that's done this for me is the OG Command R 35B. So seeing Behemoth v1.1 have a similar feel to that but with much higher general intelligence really makes it a favourite of mine

I was real happy with v1.1 the other day. I've done some tests on v1 and it's a lot better.

v1 had those glimpses of creativity, but now it's more consistent (with v1.1). It feels like a new model in comparison.

v1 had slop bro. v1.1 makes it irrelevant. The jump is like 720p to 4k. Seriously.

The creativity for v1.1 is off the charts compared to v1, like it's juiced. v1 had these moments that I would say... 'Shit, let I never seen a model respond with prose like this, let me regenerate to see what else I get.' Now, even though every regeneration had a flow of possibilities, sometimes, those possibilities never came. v1.1 is comparable to xxx for the first time, every generation. It directs and guides the scene, scenario and characters unlike anything else

It's about the f***ing prose man. The atmosphere that revolves around the characters. Not just the damn dialogue or introspection. v1.1 will pull from a message 7 generations ago. That window I opened will appear in a future response with the noise from the courtyard filtering through it. The experience of not knowing what this model will produce because it's different than anything else is what keeps it engaging.

Arsenal (Supported Chat Templates)

Mistral
- Smart, adaptable, familiar
Metharme (Pygmalion in ST)
- Creative, unhinged, unique
Alpaca
- Creative, unique, unhinged
Text Completion
You can mix it up and see which works best for you.

Favorite RP Format

*action* Dialogue *thoughts* Dialogue *narration* in 1st person PoV

What's Next?

Already have plans for a v2!

Special Thanks

Thank you to each and everyone who donated in Ko-Fi to make our venture a little bit easier.
- KinjiHakari777, Dr. Fjut, Kistara, Pseudo, AlexTheVP, Dakkidaze, EvarinSharath'fe, ONTHEREDTEAM, F, Mariana, Garg, Silva, Grozi, & Phaelon

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: 8e130df