/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Архитектура
llama · dense
Библиотека
transformers
Опубликована
11 авг 2024

Llama3-vodka

Генерация текстаТекст → текст4 профессии

Объединённая модель Llama 3 8B Instruct с ослабленными ограничителями для свободной генерации текста и диалогов.

25скачиваний за 30 дней1лайквеса обновлены29 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama3-vodka — текстовая разговорная модель на архитектуре Llama 3, созданная объединением нескольких моделей Llama 3 8B Instruct с ослабленными ограничителями. Она предназначена для генерации текста и диалогов в стиле Llama 3 Instruct, сохраняя его возможности и стиль, но с меньшим количеством отказов на запросы. Модель содержит около 7,5 млрд параметров, принимает и выдаёт текст, поддерживает контекст до 8192 токенов и работает через Transformers.

Модель собрана методом task arithmetic с помощью mergekit на основе NousResearch/Meta-Llama-3-8B-Instruct и нескольких abliterated-вариантов Llama 3. Её можно использовать для диалогов, творческого письма и дальнейшей тонкой настройки. Карточка предупреждает, что у модели ослаблены защитные механизмы и она может генерировать вредный, оскорбительный или неприемлемый контент; рекомендуется применять её в контролируемой среде. Сведения о лицензии в предоставленных данных отсутствуют.

Сценарии применения

  • диалоги с уменьшенным числом отказов
  • генерация художественного и творческого текста
  • ответы на открытые текстовые запросы
  • создание основы для дальнейшей тонкой настройки

Ограничения

Защитные механизмы модели ослаблены; она может выдавать вредный, оскорбительный или неприемлемый контент. Лицензия и поддерживаемые естественные языки в предоставленных данных не установлены.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama3-vodka

  • Input: text only
  • Output: text only

This model is like vodka. It aims to be pure, potent, and versatile.

  • Pure: shouldn't greatly affect Llama 3 Instruct's capabilities and writing style except for uncensoring
  • Potent: it's a merge of abliterated models - it should stay uncensored after merging and finetuning
  • Versatile: basically Llama 3 Instruct except uncensored - drink it straight, mix it, finetune it, and make cocktails

Please enjoy responsibly.

Safety and risks

  • Excessive consumption is bad for your health
  • The model can produce harmful, offensive, or inappropriate content if prompted to do so
  • The model has weakened safeguards and a lack of moral and ethical judgements
  • The user takes responsibility for all outputs produced by the model
  • It is recommended to use the model in controlled environments where its risks can be safely managed

Models used:

The above models were merged onto NousResearch/Meta-Llama-3-8B-Instruct using the "task arithmetic" merge method. The model merges and LoRA extractions were done using mergekit.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
bf7119a

0 моделей