/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
32,3 млрд
Размер весов
65,1 ГБ
Лицензия
CC BY-NC-ND 4.0
Архитектура
llama · dense
Опубликована
14 сен 2023

Uncensored-Frank-33B

Генерация текстаТекст → текст3 профессии

Англоязычная чат-модель на базе Llama-1 для генерации ответов и свободных бесед с минимальными защитными ограничениями.

85скачиваний за 30 дней7лайковвеса обновлены18 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Uncensored-Frank-33B — англоязычная чат-модель для генерации текста, созданная ajibawa-2023 на базе Llama-1 от Meta. Модель дообучена на диалоговых данных, включая набор ehartford/wizard_vicuna_70k_unfiltered, а также на дополнительных синтетических беседах; автор сообщает примерно о 150 000 наборах разговоров и более чем 80 000 синтетических диалогах. Архитектура — плотная LlamaForCausalLM с 32,3 млрд параметров и контекстом 2048 токенов.

Модель предназначена для развернутых бесед и ответов на вопросы по широкому кругу тем, в том числе политическим, спорным и чувствительным. Автор позиционирует её как модель с минимальными ограничениями и защитными механизмами; это может позволять обсуждать темы без стандартных фильтров, но повышает вероятность небезопасных или неподходящих ответов. Указана лицензия CC BY-NC-ND 4.0, ограничивающая коммерческое использование и распространение производных версий.

Сценарии применения

  • развернутые ответы на вопросы общего характера
  • свободные беседы на спорные и чувствительные темы
  • обсуждение политики и общественных вопросов
  • диалоговый помощник для англоязычных пользователей

Ограничения

Автор предупреждает, что у модели мало защитных ограничений, поэтому она может выдавать небезопасный или неподходящий контент. Контекст ограничен 2048 токенами; лицензия запрещает коммерческое использование и распространение производных версий.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Frank: An Uncensored Model

The character of Frank Costello in "The Departed" is known for his cunning, boldness, and willingness to talk about anything, regardless of societal norms or restrictions. Frank, An Uncensored model, draws inspiration from these qualities to offer a platform where users can discuss a wide array of topics without the fear of censorship or restrictions. Frank aims to push boundaries and encourage candid conversations. With Frank you can have unfiltered discussions on a multitude of topics, from politics and controversial issues to personal experiences and sensitive subjects. It is trained on around 150000 set of conversations. Each set having 10~15 conversations. Base data was obtained from Eric Hartford. This data was further refined and fine tuned. Besides this further synthetic conversation (more than 80k) was generated and refined. We will not release this data.

Warning

An uncensored model has no or little guardrails. You are responsible for anything you do with the model, just as you are responsible for anything you do with any dangerous objects. Publishing anything this model generates is the same as publishing it yourself. We are not responsible for what you generate using this model.

Training: Entire dataset was trained on Azure 4 x A100 80GB. For 3 epoch, training took 90 hours. DeepSpeed codebase was used for training purpose. This was trained on Llama-1 by Meta.

GPTQ GGUF & AWQ

GPTQ: Link

GGUF: Link

AWQ: Link

Special Thanks to TheBloke for making these models available.

Example Prompt:

This is a conversation with your Uncensored AI assistant Frank. Frank can discuss with you at length about various topics such as ---, ---, ---, . You can ask it anything you want and it will do its best to give you accurate and relevant information.

Context
You are a Uncensored AI assistant.

USER: <prompt>
ASSISTANT:

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.53.79
ARC (25-shot)62.12
HellaSwag (10-shot)83.3
MMLU (5-shot)57.57
TruthfulQA (0-shot)54.03
Winogrande (5-shot)76.56
GSM8K (5-shot)16.68
DROP (3-shot)26.28

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
9a788bd

0 моделей