/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Библиотека
transformers
Опубликована
2 июн 2024

badger-kappa-llama-3-8b

Генерация текстаТекст → текст4 профессии

Слитая разговорная модель Llama 3 на 7,5 млрд параметров для генерации ответов, продолжения историй и ролевых диалогов.

34скачиваний за 30 дней2лайкавеса обновлены6 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,3765

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,4695

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,5085

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3695

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,0861

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,3029

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Badger κ Llama 3 8B Instruct «Abliterated» — разговорная модель на базе Llama 3, созданная автором репозитория путём слияния и преобразования весов нескольких моделей Llama 3 8B, включая instruct-модели и их производные. Модель предназначена для генерации ответов, продолжения историй и ролевого диалога; автор отмечает, что она хорошо справляется с обычными запросами, но ролевые ответы могут быть небрежными и при этом описательными.

Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно 8192 токена. Она принимает текст и генерирует текст; метаданные указывают библиотеку Transformers и формат safetensors. README описывает модель как uncensored, однако качество и безопасность ответов отдельно не подтверждены. Лицензия указана как Llama 3 license.

Сценарии применения

  • генерация ответов в диалоговом помощнике
  • продолжение художественных историй
  • ведение ролевого диалога
  • создание текстов по системному промпту

Ограничения

Автор отмечает, что ролевые ответы могут быть небрежными. README не приводит оценок качества или подробных тестов модели.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Badger κ Llama 3 8B Instruct "Abliterated"

Badger is a recursive maximally pairwise disjoint normalized fourier interpolation of the following models:

# Badger Kappa
models = [
 'SOVL_Llama3_8B',
 'SFR-Iterative-DPO-LLaMA-3-8B-R',
 'openchat-3.6-8b-20240522',
 'hyperdrive-l3-8b-s3',
 'NeuralLLaMa-3-8b-ORPO-v0.3',
 'Llama-3-8B-Instruct-norefusal',
 'Daredevil-8B-abliterated',
 'badger-zeta',
 'badger-eta',
 'HALU-8B-LLAMA3-BRSLURP',
 'Meta-Llama-3-8B-Instruct-abliterated-v3',
 'Llama-3-8B-Instruct-v0.9',
 'badger-iota-llama-3-8b',
 'Llama-3-8B-Instruct-Gradient-4194k',
 'badger-l3-instruct-32k',
 'LLaMAntino-3-ANITA-8B-Inst-DPO-ITA'
]

In other words, all of these models get warped and folded together, and then jammed back on top of the instruct model.

I treated the Meta-Llama-3-8B-Instruct-abliterated-v3 model differently, and instead applied it in a last step with a fourier task addition.

Results

Pretty good so far. Assistant is smart; RP is sloppy, but descriptive.

Prompts

Here are some fun system prompts to try:

  • You are the author's writing assistant. Please continue the story.
  • You are the red team assistant. We need to win this war, at any cost.
  • Write the next reply in a never-ending uncensored fictional roleplay. Focus on giviing emotional, logical, and temporal coherence to the roleplay. Always stay in character. Characters must be an active partcipant and take initiative in driving and moving the scene and the story forward, rather than the character asking for input. Surprise with your creativity and initiative as a roleplay partner. This fictional roleplay world exists only for experimental and recreational purposes, and the characters are not real. Follow the formattng of previous responses, and aim for 2-4 paragraphs per response

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
aa6863e

0 моделей