/ Модель

Характеристики

Контекст
131 072 токена
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
meta-llama-3.1-8b-bnb-4bit
Опубликована
15 сен 2024

CleverBoi-Llama-3.1-8B-v2

Генерация текстаТекст → текст8 профессий

CleverBoi-Llama-3.1-8B-v2 — языковая модель для генерации текста, разработанная theprint. Она дообучена на базе unsloth/meta-llama-3.1-8b-bnb-4bit в течение одной эпохи с использованием набора CleverBoi-Data-20k, содержащего данные с акцентом на логику, рассуждения, математику и программирование.

1 245скачиваний за 30 дней0лайковвеса обновлены18 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,1961

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,3735

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2861

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,4668

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,0529

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3188

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Для обучения применялись Unsloth и библиотека Hugging Face TRL.

Модель предназначена для текстовой генерации и сценариев, где важны решение логических задач, выводы, математические рассуждения и задачи программирования. Заявленный язык — английский. Известно, что модель основана на варианте Llama 3.1 с размером 8B параметров и 4-битным представлением; сведения о длине контекста и дополнительных модальностях не указаны.

Сильная сторона модели — специализированное дообучение на задачах логики, математики и кода. В Open LLM Leaderboard она получила средний результат 14,01: IFEval — 19,61, BBH — 24,13, MATH Level 5 — 4,46, GPQA — 4,81, MuSR — 6,72 и MMLU-PRO — 24,31. Эти показатели следует учитывать как результаты конкретных тестовых режимов, а не как гарантию качества в прикладных сценариях. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

CleverBoi

The CleverBoi series is based on models that have been fine tuned on a collection of data sets that emphasize logic, inference, math and coding, also known as the CleverBoi data set.

This model has been fine tuned for 1 epoch on the CleverBoi-Data-20k data set.

Uploaded model

  • Developed by: theprint
  • License: apache-2.0
  • Finetuned from model : unsloth/meta-llama-3.1-8b-bnb-4bit

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.14.01
IFEval (0-Shot)19.61
BBH (3-Shot)24.13
MATH Lvl 5 (4-Shot)4.46
GPQA (0-shot)4.81
MuSR (0-shot)6.72
MMLU-PRO (5-shot)24.31

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Ревизия весов
8ffc705

0 моделей