/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
3,7 млрд
Размер весов
7,6 ГБ
Лицензия
MIT
Архитектура
mistral · dense
Опубликована
15 мая 2024

Llama-Phi-3_DoRA

Генерация текстаТекст → текст6 профессий

Разговорная модель на архитектуре Mistral с 3,7 млрд параметров для генерации текста и ответов на запросы на английском языке.

60скачиваний за 30 дней6лайковвеса обновлены26 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3915

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,5515

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,5131

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,1216

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,3263

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4069

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Ba2han/Llama-Phi-3_DoRA — разговорная языковая модель на 3,7 млрд параметров, опубликованная Ba2han. В карточке она описана как ассистент, обученный на отфильтрованных версиях размеченных наборов данных и нескольких тысячах примеров, созданных с помощью Llama 3 70B. Архитектура — плотная MistralForCausalLM; модель использует формат safetensors и поддерживает контекст длиной до 4096 токенов.

Модель предназначена для генерации текста в диалоге и ответов на запросы. В README рекомендован шаблон Zephyr и задана базовая роль дружелюбного и полезного ассистента. Указаны результаты оценок MMLU и Winogrande, а также таблица тестов Open LLM Leaderboard; эти оценки не гарантируют качество в конкретном приложении.

Модель поддерживает английский язык и распространяется по лицензии MIT. Она принимает текст и генерирует текст; модальности изображений и аудио не заявлены.

Сценарии применения

  • ответы на вопросы в диалоговом формате
  • генерация текста по инструкции
  • создание дружелюбного виртуального помощника

Ограничения

Контекст ограничен 4096 токенами. Результаты бенчмарков из карточки не гарантируют качество на прикладных задачах.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

We have Llama-3 at home!

Highest PHI-3-Mini MMLU and Winogrande on the board!

The model has been trained on filtered versions of tagged datasets, as well as a few thousand more examples generated with llama-3-70B.

Use Zephyr template with any system message. Default system message should be:

You are a smart, friendly and helpful assistant.

image/png

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.67.72
AI2 Reasoning Challenge (25-Shot)62.29
HellaSwag (10-Shot)79.08
MMLU (5-Shot)69.44
TruthfulQA (0-shot)54.08
Winogrande (5-shot)73.40
GSM8k (5-shot)68.01

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
36f9906

0 моделей