/ Модель

Характеристики

Контекст
131 072 токена
Параметры
122 млрд
Размер весов
245 ГБ
Лицензия
Своя лицензия
Архитектура
mistral · dense
Опубликована
30 ноя 2024

Behemoth-123B-v1.2

Генерация текстаТекст → текст3 профессии

Крупная модель Mistral для диалогов и творческого ролевого взаимодействия с персонажами.

88скачиваний за 30 дней30лайковвеса обновлены1 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Behemoth-123B-v1.2 — большая языковая модель семейства Mistral, опубликованная TheDrummer и представленная BeaverAI. Она предназначена прежде всего для диалогов и творческого ролевого взаимодействия: авторы отмечают разнообразную прозу, естественные ответы и способность поддерживать характер персонажа. Модель содержит 122,2 млрд параметров, использует плотную архитектуру MistralForCausalLM и имеет контекстное окно до 131 072 токенов. В карточке указана поддержка шаблона чата Metharme; метаданные также отмечают интерфейс вызова инструментов.

Модель принимает текстовые запросы и генерирует текст. В README предпочтение отдано ролевому формату с действиями, диалогом, мыслями и повествованием от первого лица. Карточка не сообщает о поддерживаемых языках, поэтому языковую специализацию определить нельзя. Лицензия обозначена как other; конкретные условия использования следует уточнять в репозитории модели. Оценки качества в README основаны на отзывах сообщества и не являются независимыми результатами тестирования.

Сценарии применения

  • ведение ролевых диалогов с персонажами
  • написание художественной прозы с вариативным стилем
  • генерация повествования от первого лица
  • поддержание заданного характера персонажа
  • создание диалоговых сценариев

Ограничения

README описывает впечатления сообщества, а не независимые результаты оценки; языки модели не перечислены. Условия лицензии обозначены как other, поэтому их следует проверить в репозитории перед использованием.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Join our Discord! https://discord.gg/Nbv9pQ88Xb

2500+ members strong 💪 Now with more channels! A hub for users and makers alike!


BeaverAI proudly presents...

Behemoth 123B v1.2 🦣 - The Definitive Edition

When you spend your whole life living under a dome, even the idea of an ocean seems impossible to imagine.

image/png

Description

v1.2 is a go! Crazy to say but I believe it's better than your 2* versions in every way. Great work as always

Switched back to 1.1 after using 1.2 and yeah the difference is obvious. I prefer the prose of 1.2 better. It's more varied.

Yeah it is truly an upgrade in every sense if the word if you ask me

100%. 1.2 is my favourite Behemoth iteration. It's crazy to me just how different it feels from the 2.x series.

It's my favorite model period. The vast majority of all responses are fresh. Every chat feels more natural too.

I just absolutely love what it does to my characters. I haven't seen them say the things 1.2 has said before, but it feels so natural

The prose in 1.2 is 🤌🤌🤌

Gonna go ahead and give a 👍 for releasing it. I like this version a lot. Better than 2.2 imo. I haven't seen any impersonation. The rp stuck to the card and was very deep and creative. Less predictable than 1.1, but not flat out nuts like 2.2.

So far, I have to concur. I'm impressed with 1.2

Links

Arsenal (Supported Chat Templates)

  • Metharme (Pygmalion in ST)
    • Creative, unhinged, unique

Favorite RP Format

*action* Dialogue *thoughts* Dialogue *narration* in 1st person PoV

Favorite Card

image/png Audrey by thecooler

What's Next?

  • For Largestral 2407??? That would mean AI winter!

Special Thanks

  • Thank you to each and everyone who donated in Ko-Fi to make our venture a little bit easier.
    • KinjiHakari777, Dr. Fjut, Kistara, Pseudo, AlexTheVP, Dakkidaze, EvarinSharath'fe, ONTHEREDTEAM, F, Mariana, Garg, Silva, Grozi, Phaelon, joe

BEHEMOTH SUPREMACY

image/png

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
5135401

0 моделей