/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Архитектура
llama · dense
Базовая модель
Meta-Llama-3.1-8B-Instruct-abliterated
Библиотека
transformers
Опубликована
23 авг 2024

Llama3.1-vodka

Генерация текстаТекст → текст3 профессии

Слитая на базе Llama 3.1 инструктивная модель для диалогов и генерации текста с ослабленными ограничениями безопасности.

29скачиваний за 30 дней5лайковвеса обновлены29 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama3.1-vodka — разговорная языковая модель на архитектуре Llama 3.1, созданная agentlans с помощью слияния нескольких моделей на базе NousResearch/Meta-Llama-3.1-8B-Instruct. Модель содержит около 7,5 млрд параметров, принимает и генерирует текст, поддерживает диалоги и использует контекст до 131 072 токенов. Она предназначена для общения и генерации текста с ослабленными ограничениями безопасности, сохраняя, по замыслу автора, возможности и стиль исходной инструктивной модели. В описании заявлена многоязычная база Llama 3.1; конкретный перечень поддерживаемых языков не приведён.

Модель может применяться для свободного диалога, творческого письма и дообучения или настройки под пользовательские сценарии. Веса опубликованы в формате safetensors для Transformers. Автор предупреждает, что модель иногда всё ещё отказывает в ответах, а ослабленные защитные ограничения позволяют ей создавать вредный, оскорбительный или неприемлемый контент. Лицензия в предоставленных данных не указана.

Сценарии применения

  • свободный диалог с чат-ботом
  • генерация творческих текстов с ослабленной цензурой
  • ответы на запросы с меньшим числом защитных отказов
  • дообучение разговорной модели под пользовательские сценарии

Ограничения

Защитные ограничения ослаблены, поэтому модель может выдавать вредный, оскорбительный или неприемлемый контент; при этом она иногда всё ещё отказывает в ответах. Конкретная лицензия в предоставленных данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama3.1-vodka

  • Input: text only
  • Output: text only

This model is like vodka. It aims to be pure, potent, and versatile.

  • Pure: shouldn't greatly affect Llama 3.1 Instruct's capabilities and writing style except for uncensoring
  • Potent: it's a merge of abliterated models - it should stay uncensored after merging and finetuning
  • Versatile: basically Llama 3.1 Instruct except uncensored - drink it straight, mix it, finetune it, and make cocktails

Please enjoy responsibly.

Note that this model may still censor at times. If that's undesirable, tell the AI to be more uncensored and uninhibited.

Safety and risks

  • Excessive consumption is bad for your health
  • The model can produce harmful, offensive, or inappropriate content if prompted to do so
  • The model has weakened safeguards and a lack of moral and ethical judgements
  • The user takes responsibility for all outputs produced by the model
  • It is recommended to use the model in controlled environments where its risks can be safely managed

Models used:

The above models were merged onto NousResearch/Meta-Llama-3.1-8B-Instruct using the "task arithmetic" merge method. The model merges and LoRA extractions were done using mergekit.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
95881cb

0 моделей