/ Модель

Характеристики

Контекст
131 072 токена
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
meta-llama-3.1-8b-bnb-4bit
Опубликована
2 ноя 2024

ReWiz-Llama-3.1-8B-v2

Генерация текстаТекст → текст3 профессии

ReWiz-Llama-3.1-8B-v2 — языковая текстовая модель, разработанная theprint и дообученная на базе unsloth/meta-llama-3.1-8b-bnb-4bit.

514скачиваний за 30 дней1лайквеса обновлены10 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,0574

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,3029

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,4632

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,331

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,3814

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,2379

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и использования в сценариях, где требуется следовать инструкциям; для получения наилучших результатов рекомендуется применять шаблон запросов в стиле Alpaca. Обучение выполнялось с использованием Unsloth и библиотеки Hugging Face TRL.

Модель относится к семейству Llama и имеет размер 8B параметров; исходная база представлена в 4-битном формате. В README указана поддержка английского языка. Сведения о длине контекста, дополнительных модальностях и точном составе обучающих данных отсутствуют, поэтому модель следует рассматривать как текстовую, без подтверждённой поддержки изображений, аудио или других типов данных.

По результатам Open LLM Leaderboard среднее значение оценки составило 15,68: IFEval — 23,73, BBH — 23,77, MATH уровня 5 — 4,53, GPQA — 7,05, MuSR — 9,34, MMLU-PRO — 25,67. Эти результаты показывают ограниченную надёжность на сложных задачах следования инструкциям, рассуждений, математики и общих знаний; фактическое качество зависит от формулировки запроса и сценария использования. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Prompt format

Use an alpaca-style prompt template for best results.

Uploaded model

  • Developed by: theprint
  • License: apache-2.0
  • Finetuned from model : unsloth/meta-llama-3.1-8b-bnb-4bit

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.15.68
IFEval (0-Shot)23.73
BBH (3-Shot)23.77
MATH Lvl 5 (4-Shot)4.53
GPQA (0-shot)7.05
MuSR (0-shot)9.34
MMLU-PRO (5-shot)25.67

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
317c5e6

0 моделей