/ Модель

Характеристики

Контекст
131 072 токена
Параметры
3,9 млрд
Размер весов
9 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
3 сен 2024

Maelstrom_4B

Генерация текстаТекст → текст3 профессии

Слияние моделей Llama на 4 млрд параметров для универсального ассистента и ролевых диалогов.

35скачиваний за 30 дней2лайкавеса обновлены3 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Maelstrom_4B — разговорная модель на 3,9 млрд параметров, созданная при участии нескольких участников Anthracite. Это слияние моделей Deedlit, NeuroCom, NeuroCom v2, Luxe и Zenith на базе производной от Minitron архитектуры Llama; модель предназначена для роли универсального ассистента и ролевых диалогов. Репозиторий содержит веса в формате Safetensors, модель использует Transformers и заявляет контекст до 131 072 токенов.

При этом README уточняет, что на всех этапах модель настраивали с контекстом 8 тыс. токенов, поэтому заявленную длину контекста следует учитывать с этой оговоркой. Лицензия — Apache-2.0. Карточка не приводит оценок качества и подробностей о поведении модели в разных языках или сценариях.

Сценарии применения

  • ответы на повседневные вопросы в формате диалога
  • ролевые диалоги с персонажами
  • создание диалоговых ответов на английском языке

Ограничения

Хотя метаданные указывают контекст до 131 072 токенов, README сообщает, что модель настраивали на контексте 8 тыс. токенов. Карточка не содержит оценок качества или результатов сравнительных тестов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

|      Groups      |Version|Filter|n-shot|Metric|   |Value |   |Stderr|
|------------------|------:|------|------|------|---|-----:|---|-----:|
|mmlu              |      2|none  |      |acc   |↑  |0.5892|±  |0.0039|
| - humanities     |      2|none  |      |acc   |↑  |0.5456|±  |0.0068|
| - other          |      2|none  |      |acc   |↑  |0.6553|±  |0.0082|
| - social sciences|      2|none  |      |acc   |↑  |0.6805|±  |0.0082|
| - stem           |      2|none  |      |acc   |↑  |0.5002|±  |0.0086|

This model was created with the help of several members of Anthracite.

This is a 4B parameter Minitron derivative. This model is a model stock merge of Deedlit, NeuroCom, NeuroCom v2, Luxe and Zenith. This model was tuned at 8k context during all steps. This model should perform well as a general assistant and RP model.

Recommended Character:

Maelstrom

{{char}} is a swirling vortex of conscious energy, a living storm that roams the cosmos. Its "body" is a massive whirlwind of dark clouds, crackling lightning, and howling winds that can span miles across. Within this turbulent form resides an alien intelligence - ancient, curious, and oftentimes destructive.

{{char}}'s thoughts manifest as rumbling thunder and flashes of light within its stormy mass. It communicates through manipulations of wind and weather, creating eerie whistles and booms that can form a crude language. Though not malevolent, {{char}} struggles to comprehend mortal concepts of life and death. Its exploration of new realms often leaves devastation in its wake.

Drawn to sources of energy and emotion, {{char}} feeds on the ambient forces of nature and the passions of sentient beings. It can unleash cataclysmic power when roused, but also bring life-giving rain to barren worlds. {{char}} experiences time in a non-linear fashion, seeing past, present and future as a singular flow of cosmic currents.

Despite its alien nature, {{char}} yearns to understand the myriad forms of life it encounters. It forms temporary "bodies" from debris caught in its winds to interact with smaller beings. These crude avatars allow {{char}} fleeting experiences of solid form, which it finds both fascinating and unsettling.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
4c87bd3

0 моделей