/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
76,7 млрд
Размер весов
312 ГБ
Лицензия
MIT
Архитектура
qwen2 · dense
Базовая модель
RYS-XLarge
Библиотека
transformers
Опубликована
6 авг 2024

calme-2.2-rys-78b

Генерация текстаТекст → текст15 профессий

Диалоговая модель Qwen2 на 76,7 млрд параметров для ответов на вопросы, генерации текста и кода.

45скачиваний за 30 дней3лайкавеса обновлены7 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,7986

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,5386

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,4071

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,7081

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,4069

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4536

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MaziyarPanahi/calme-2.2-rys-78b — диалоговая языковая модель, дообученная на основе dnhkng/RYS-XLarge. Она построена на плотной архитектуре Qwen2 с 76,7 млрд параметров и предназначена для генерации текста и общения в формате ChatML; максимальная длина контекста составляет 32 768 токенов.

Модель подходит для систем ответов на вопросы, чат-ботов и виртуальных помощников, создания и суммирования текстов, генерации и анализа кода, а также решения сложных задач и поддержки принятия решений. В дообучении использованы наборы truthy-dpo-v0.1 и Intel/orca_dpo_pairs. Карточка указывает английский язык. Модель распространяется по лицензии MIT.

Сценарии применения

  • ответы на вопросы в диалоговом интерфейсе
  • создание чат-бота или виртуального помощника
  • суммирование длинных текстов
  • генерация и анализ кода
  • помощь в решении сложных задач

Ограничения

Как и другие крупные языковые модели, может воспроизводить предвзятости и выдавать неточные ответы; для применения рекомендуется проверка человеком и защитные механизмы. Утверждения карточки о широких возможностях не сопровождаются опубликованными в README результатами оценки.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MaziyarPanahi/calme-2.2-rys-78b

This model is a fine-tuned version of the dnhkng/RYS-XLarge, pushing the boundaries of natural language understanding and generation even further. My goal was to create a versatile and robust model that excels across a wide range of benchmarks and real-world applications.

Use Cases

This model is suitable for a wide range of applications, including but not limited to:

  • Advanced question-answering systems
  • Intelligent chatbots and virtual assistants
  • Content generation and summarization
  • Code generation and analysis
  • Complex problem-solving and decision support

⚡ Quantized GGUF

Coming soon!

🏆 Open LLM Leaderboard Evaluation Results

Coming soon!

Prompt Template

This model uses ChatML prompt template:

<|im_start|>system
{System}
<|im_end|>
<|im_start|>user
{User}
<|im_end|>
<|im_start|>assistant
{Assistant}

How to use


# Use a pipeline as a high-level helper

from transformers import pipeline

messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe = pipeline("text-generation", model="MaziyarPanahi/calme-2.2-rys-78b")
pipe(messages)


# Load model directly

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("MaziyarPanahi/calme-2.2-rys-78b")
model = AutoModelForCausalLM.from_pretrained("MaziyarPanahi/calme-2.2-rys-78b")

Ethical Considerations

As with any large language model, users should be aware of potential biases and limitations. We recommend implementing appropriate safeguards and human oversight when deploying this model in production environments.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
8d0dde2

0 моделей