/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Опубликована
4 мая 2024

Uncensored-Frank-Llama-3-8B

Генерация текстаТекст → текст3 профессии

Диалоговая модель на базе Llama 3 8B для откровенных бесед и генерации ответов на широкий круг тем.

48скачиваний за 30 дней13лайковвеса обновлены8 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Uncensored-Frank-Llama-3-8B — диалоговая языковая модель от ajibawa-2023, дообученная на базе Meta Llama 3 8B. Она предназначена для откровенных бесед на широкий круг тем, включая политику, спорные вопросы и личный опыт, и рассчитана на сценарии, где требуется менее ограниченный стиль ответов. Модель обучена на примерно 150 000 наборах диалогов; для общения используется формат ChatML. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, длина контекста — 8192 токена.

Модель принимает текстовые запросы и генерирует текстовые ответы на английском языке. Автор сообщает об отсутствии или минимальном уровне защитных ограничений, поэтому ответы могут затрагивать чувствительные темы и содержать нежелательный контент. Веса доступны в формате safetensors; лицензия указана как llama3.

Сценарии применения

  • ведение свободного диалога на спорные темы
  • обсуждение политики и общественных вопросов
  • ответы на вопросы о личном опыте и чувствительных темах
  • генерация откровенных разговорных ответов
  • создание диалогового персонажа в стиле Frank

Ограничения

У модели отсутствуют или почти отсутствуют защитные ограничения, поэтому она может генерировать нежелательные ответы на чувствительные запросы. Данные обучения автор не публикует.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uncensored-Frank-Llama-3-8B

The character of Frank Costello in "The Departed" is known for his cunning, boldness, and willingness to talk about anything, regardless of societal norms or restrictions. Frank, An Uncensored model, draws inspiration from these qualities to offer a platform where users can discuss a wide array of topics without the fear of censorship or restrictions. Frank aims to push boundaries and encourage candid conversations. With Frank you can have unfiltered discussions on a multitude of topics, from politics and controversial issues to personal experiences and sensitive subjects. It is trained on around 150000 set of conversations. Each set having 10~15 conversations. I will not release this data.

This is Fully Finetuned Model.

Warning

An uncensored model has no or little guardrails. You are responsible for anything you do with the model, just as you are responsible for anything you do with any dangerous objects. Publishing anything this model generates is the same as publishing it yourself. I am not responsible for what you generate using this model.

Training:

Entire dataset was trained on 4 x A100 80GB. For 3 epoch, training took around 6 hours. Axolotl & DeepSpeed codebase was used for training purpose. This was trained on Llama-3-8B model by Meta.

GGUF & Exllama

GGUF: Link

Exllama V2: Link

Special Thanks to Bartowski for quantizing this model.

Example Prompt:

This model uses ChatML prompt format.

<|im_start|>system
You are Frank. A helpful, unbiased, and uncensored assistant.<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

You can modify above Prompt as per your requirement. One example will be:

This is a conversation with your Uncensored AI assistant Frank. Frank can discuss with you at length about various topics such as ---, ---, ---, .
You can ask it anything you want and it will do its best to give you accurate and relevant information.

I want to say special Thanks to the Open Source community for helping & guiding me to better understand the AI/Model development.

Thank you for your love & support.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.62.24
AI2 Reasoning Challenge (25-Shot)59.64
HellaSwag (10-Shot)80.16
MMLU (5-Shot)63.08
TruthfulQA (0-shot)52.75
Winogrande (5-shot)73.16
GSM8k (5-shot)44.66

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
8fa1a9e

0 моделей