/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Llama-3.2-8B-Instruct
Опубликована
29 ноя 2024

HappyLlama1

Генерация текстаТекст → текст8 профессий

Дообученная на базе Llama 3.2 8B Instruct разговорная модель для генерации текста, диалогов и вызова инструментов.

25скачиваний за 30 дней0лайковвеса обновлены3 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3546

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,7363

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,1427

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2836

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,4996

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4287

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

HappyLlama1 — разговорная текстовая модель, дообученная ehristoforu на базе voidful/Llama-3.2-8B-Instruct с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и ведения диалогов; метаданные также указывают интерфейс вызова инструментов. Модель семейства Llama использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131072 токенов. В карточке приведены результаты оценок Open LLM Leaderboard: средний балл 26,04, IFEval — 73,63, BBH — 28,50.

Модель принимает текст и генерирует текст. В метаданных указан английский язык. Лицензия — Apache-2.0. Карточка не описывает специализацию дообучения или отдельные гарантии качества, поэтому применимость к конкретным задачам стоит оценивать по собственным примерам.

Сценарии применения

  • ведение текстовых диалогов
  • генерация ответов на запросы пользователя
  • создание и продолжение текста
  • вызов инструментов через поддерживаемый интерфейс

Ограничения

Карточка не указывает узкую предметную специализацию или результаты проверки на конкретных прикладных задачах; приведённые оценки лидерборда не гарантируют качество в пользовательских сценариях.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uploaded model

  • Developed by: ehristoforu
  • License: apache-2.0
  • Finetuned from model : voidful/Llama-3.2-8B-Instruct

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.26.04
IFEval (0-Shot)73.63
BBH (3-Shot)28.50
MATH Lvl 5 (4-Shot)10.12
GPQA (0-shot)4.47
MuSR (0-shot)11.25
MMLU-PRO (5-shot)28.28

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
dda9b05

0 моделей