/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
76,7 млрд
Размер весов
312 ГБ
Лицензия
MIT
Архитектура
qwen2 · dense
Базовая модель
RYS-XLarge
Библиотека
transformers
Опубликована
6 авг 2024

calme-2.3-rys-78b

Генерация текстаТекст → текст15 профессий

Дообученная 76,7-миллиардная диалоговая модель Qwen2 для ответов на вопросы, генерации и суммаризации текста, работы с кодом и поддержки решений.

42скачиваний за 30 дней4лайкавеса обновлены7 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,8066

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,398

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,7108

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4549

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,5475

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,4044

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

calme-2.3-rys-78b — дообученная MaziyarPanahi диалоговая языковая модель на базе dnhkng/RYS-XLarge. Она предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, генерации и суммаризации текстов, работы с кодом, решения сложных задач и поддержки принятия решений. Модель использует архитектуру Qwen2 с 76,7 млрд параметров, работает с текстом и поддерживает шаблон диалога ChatML; заявленная длина контекста — 32 768 токенов. В карточке указан английский язык, а в качестве обучающего набора — truthy-dpo-v0.1-axolotl.

Модель распространяется по лицензии MIT. Как и другие большие языковые модели, она может воспроизводить смещения и выдавать ненадёжные ответы; для ответственных сценариев нужны проверка результатов и человеческий контроль.

Сценарии применения

  • ответы на сложные вопросы
  • создание чат-бота или виртуального помощника
  • генерация и суммаризация текстов
  • генерация и анализ кода
  • помощь в решении задач и принятии решений

Ограничения

Модель может выдавать ненадёжные ответы и воспроизводить смещения; для ответственных сценариев необходимы проверка результатов и человеческий контроль.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MaziyarPanahi/calme-2.3-rys-78b

This model is a fine-tuned version of the dnhkng/RYS-XLarge, pushing the boundaries of natural language understanding and generation even further. My goal was to create a versatile and robust model that excels across a wide range of benchmarks and real-world applications.

Use Cases

This model is suitable for a wide range of applications, including but not limited to:

  • Advanced question-answering systems
  • Intelligent chatbots and virtual assistants
  • Content generation and summarization
  • Code generation and analysis
  • Complex problem-solving and decision support

⚡ Quantized GGUF

Coming soon!

🏆 Open LLM Leaderboard Evaluation Results

Coming soon!

Prompt Template

This model uses ChatML prompt template:

<|im_start|>system
{System}
<|im_end|>
<|im_start|>user
{User}
<|im_end|>
<|im_start|>assistant
{Assistant}

How to use


# Use a pipeline as a high-level helper

from transformers import pipeline

messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe = pipeline("text-generation", model="MaziyarPanahi/calme-2.3-rys-78b")
pipe(messages)


# Load model directly

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("MaziyarPanahi/calme-2.3-rys-78b")
model = AutoModelForCausalLM.from_pretrained("MaziyarPanahi/calme-2.3-rys-78b")

Ethical Considerations

As with any large language model, users should be aware of potential biases and limitations. We recommend implementing appropriate safeguards and human oversight when deploying this model in production environments.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
a8a4e55

0 моделей