/ Модель

Характеристики

Контекст
131 072 токена
Параметры
122 млрд
Размер весов
245 ГБ
Лицензия
Своя лицензия
Архитектура
mistral · dense
Опубликована
8 окт 2024

Behemoth-123B-v1

Генерация текстаТекст → текст6 профессий

Слитая 123-миллиардная модель на базе Mistral Large Instruct для диалогов, творческого письма и ролевых историй.

90скачиваний за 30 дней44лайкавеса обновлены9 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Behemoth-123B-v1 — текстовая чат-модель, опубликованная командой TheDrummer и представленная BeaverAI. Это слитая производная Mistral Large Instruct 2407 с архитектурой MistralForCausalLM и 122,2 млрд параметров; модель распространяется в формате safetensors. Она предназначена для диалога, творческого письма, ролевых сцен и историй. В карточке отмечены разнообразная генерация, выразительная проза, нюансированные ответы и хорошее запоминание контекста. Поддерживаются шаблоны чата Mistral Instruct, Metharme и текстовое продолжение.

Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Интерфейс также предусматривает вызов инструментов. Лицензия обозначена как other, поэтому конкретные условия следует проверять в репозитории модели. Отзывы тестировщиков носят качественный характер и не заменяют независимой оценки; поведение может зависеть от шаблона чата.

Сценарии применения

  • написание художественной прозы с разнообразным стилем
  • создание ролевых сцен и диалогов персонажей
  • продолжение текста в режиме text completion
  • ответы в диалоге с учётом нюансов и контекста
  • вызов инструментов через поддерживаемый интерфейс чата

Ограничения

Качественные характеристики основаны на отзывах тестировщиков, без приведённых количественных оценок. Указана лицензия other, поэтому применимые условия использования нужно уточнить в репозитории.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Join our Discord! https://discord.gg/Nbv9pQ88Xb

1500+ members strong 💪


BeaverAI proudly presents...

Behemoth 123B v1 🦣

When you spend your whole life living under a dome, even the idea of an ocean seems impossible to imagine.

image/png

Description

Testers have reported:

  • Better creativity and variety
  • Improved prose
  • Less positivity, more unhinged (especially on Metharme)
  • Good intelligence, sharp on nuances and recall.

Links

Arsenal (Supported Chat Templates)

  • Mistral for Instruct / RP / Story
    • Smart, adaptable, familiar
  • Metharme (a.k.a. Pygmalion in ST) for RP / Story
    • Creative, unhinged, unique
  • Text Completion for RP
  • You can mix it up and see which works best for you.

Favorite RP Format

*action* Dialogue *thoughts* Dialogue *narration* in 1st person PoV

What's Next?

  • Looking into v1.1...
  • Already have plans for a v2!

Special Thanks

  • Thank you to each and everyone who donated in Ko-Fi to make our venture a little bit easier.
    • KinjiHakari777, Dr. Fjut, Kistara, Pseudo, AlexTheVP, Dakkidaze, EvarinSharath'fe, ONTHEREDTEAM, F, Mariana, Garg, Silva, Grozi, & Phaelon

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
881d04e

0 моделей