/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Архитектура
llama · dense
Базовая модель
Meta-Llama-3.1-8B-Instruct
Библиотека
transformers
Опубликована
5 дек 2024

KRONOS-8B-V1-P2

Генерация текстаТекст → текст3 профессии

Слитая модель Llama 3.1 на 7,5 млрд параметров, предназначенная прежде всего для дальнейшего слияния с моделями того же семейства методом TIES.

30скачиваний за 30 дней1лайквеса обновлены7 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,1601

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,3568

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2919

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3453

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,4772

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,6724

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KRONOS V1 P2 — слитая модель семейства Llama 3.1, созданная автором репозитория на основе Meta Llama 3.1 Instruct и дообучения с LoRA на датасете Propositional Logic. Веса представлены в формате safetensors; размер модели — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель использует архитектуру LlamaForCausalLM и библиотеку Transformers.

Основное назначение этой версии — служить компонентом для дальнейшего слияния с другими моделями того же семейства методом TIES. Она также поддерживает генерацию текста и диалоговый режим; метаданные отмечают интерфейс вызова инструментов. README приводит результаты оценок IFEval и BBH, но не описывает отдельные сценарии использования этой версии как самостоятельного ассистента.

Лицензия в предоставленных данных не указана. Автор README считает создание квантованных версий этой модели ненужным.

Сценарии применения

  • слияние с другими моделями семейства Llama 3.1 методом TIES
  • генерация текста в диалоговом формате
  • эксперименты с переносом навыков логического рассуждения в слитые модели

Ограничения

Модель в первую очередь подготовлена для дальнейшего слияния, поэтому README не подтверждает её пригодность как самостоятельного универсального ассистента. Лицензия и поддерживаемые естественные языки в предоставленных материалах не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

KRONOS V1 P2

This is a merge of Meta Llama 3.1 Instruct and the "Propositional Logic" LORA, created using llm-tools.

The primary purpose of this model is to be merged into other models in the same family using the TIES merge method.

Creating quants for this is entirely unnecessary.

Merge Details

Configuration

The following Bash command was used to produce this model:

python /llm-tools/merge-lora.py -m unsloth/Meta-Llama-3.1-8B-Instruct -l ergotts/llama_3.1_8b_prop_logic_ft

Open LLM Leaderboard Evaluation Results

Detailed results can be found here! Summarized results can be found here!

MetricValue (%)
Average23.99
IFEval (0-Shot)67.24
BBH (3-Shot)25.86
MATH Lvl 5 (4-Shot)12.92
GPQA (0-shot)5.59
MuSR (0-shot)5.06
MMLU-PRO (5-shot)27.26

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
bf94c9a

0 моделей