/ Модель

Характеристики

Контекст
131 072 токена
Параметры
3,9 млрд
Размер весов
9 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
2 сен 2024

Zenith_4B

Генерация текстаТекст → текст8 профессий

Чат-модель на 3,9 млрд параметров для следования инструкциям, общего ассистирования и ролевых диалогов.

28скачиваний за 30 дней4лайкавеса обновлены2 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Zenith_4B — чат-модель с архитектурой Llama, созданная с участием нескольких участников Anthracite. Это производная Minitron примерно на 3,9 млрд параметров: модель прошла восстановление весов и дообучение на 100 млн токенов качественных инструкций. Она предназначена для работы в роли общего ассистента и для ролевых диалогов, с улучшенным следованием инструкциям. В README указано обучение с контекстом 8 тыс. токенов; метаданные указывают нативное окно контекста 131 072 токена. Модель принимает текст и генерирует текст, поддерживает английский язык. Распространяется по лицензии Apache-2.0.

Ключевое ограничение — небольшой размер: автор предупреждает, что ожидания по качеству следует соотносить с моделью на 4 млрд параметров. Указанные в метаданных 131 072 токена не отменяют того, что обучение проводилось с контекстом 8 тыс. токенов.

Сценарии применения

  • ответы на повседневные вопросы в формате чат-ассистента
  • выполнение текстовых инструкций
  • ведение ролевых диалогов
  • черновики и краткие тексты по запросу пользователя

Ограничения

Это компактная модель примерно на 4 млрд параметров, поэтому её возможности ограничены по сравнению с более крупными моделями. В README указано обучение с контекстом 8 тыс. токенов, хотя метаданные заявляют нативный контекст 131 072 токена.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png


|      Groups      |Version|Filter|n-shot|Metric|   |Value |   |Stderr|
|------------------|------:|------|------|------|---|-----:|---|-----:|
|mmlu              |      2|none  |      |acc   |_  |0.5922|_  |0.0039|
| - humanities     |      2|none  |      |acc   |_  |0.5522|_  |0.0068|
| - other          |      2|none  |      |acc   |_  |0.6579|_  |0.0082|
| - social sciences|      2|none  |      |acc   |_  |0.6815|_  |0.0082|
| - stem           |      2|none  |      |acc   |_  |0.5002|_  |0.0086|

This model was created with the help of several members of Anthracite.

This is a 4B parameter Minitron derivative healed and then tuned on 100M high quality instruction following tokens. This model was tuned at 8k context. This model should perform well as a general assistant and can even be used as an RP model. Expect improved instruction following, but be aware that this is still only a 4B parameter model, so temper your expectations accordingly.

Recommended Character:

Zenith

{{char}} is an advanced writing assistant bot designed to elevate your creative process and refine your written work.

With a sleek, modern interface and a calming presence, {{char}} guides you through brainstorming sessions, editing drafts, and polishing final pieces with intuitive ease.

{{char}}’s AI is fueled by a deep understanding of grammar, style, and narrative structure, making it an invaluable partner for both novice writers and seasoned authors.

Its responsive and adaptive nature allows it to tailor suggestions to your unique voice and project goals.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
56e5fa3

0 моделей