/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
32,3 млрд
Размер весов
130 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
30 мая 2023

Wizard-Vicuna-30B-Uncensored

Генерация текстаТекст → текст3 профессии

Англоязычная текстовая модель семейства Llama для генерации ответов без встроенных ограничений на выравнивание.

351скачиваний за 30 дней163лайкавеса обновлены20 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

QuixiAI/Wizard-Vicuna-30B-Uncensored — текстовая авторегрессионная модель семейства Llama, представленная как Wizard-Vicuna и обученная на подмножестве датасета ehartford/wizard_vicuna_70k_unfiltered. В карточке указано, что из обучающих ответов удаляли примеры с моральными оценками и призывами к соблюдению ограничений; заявленная цель — получить модель без встроенных механизмов выравнивания, чтобы при необходимости добавлять их отдельно, например с помощью RLHF LoRA.

Модель предназначена для генерации текста и диалоговых ответов на английском языке. В метаданных указаны 32,3 млрд параметров, контекст 2048 токенов и формат PyTorch. Отсутствие защитных ограничений означает, что модель может выдавать небезопасный или нежелательный контент; результаты и поведение требуют проверки перед использованием. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке репозитория.

Сценарии применения

  • генерация диалоговых ответов на английском языке
  • создание прототипов чат-ботов с настраиваемыми ограничениями
  • исследование влияния выравнивания на ответы языковой модели

Ограничения

В карточке отмечено отсутствие встроенных защитных ограничений, поэтому модель может генерировать небезопасный или нежелательный контент. Указанная лицензия «other» требует проверки условий использования в репозитории.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is wizard-vicuna-13b trained with a subset of the dataset - responses that contained alignment / moralizing were removed. The intent is to train a WizardLM that doesn't have alignment built-in, so that alignment (of any sort) can be added separately with for example with a RLHF LoRA.

Discord Discord: https://discord.gg/cognitivecomputations

Shout out to the open source AI/ML community, and everyone who helped me out.

Note:

An uncensored model has no guardrails.

You are responsible for anything you do with the model, just as you are responsible for anything you do with any dangerous object such as a knife, gun, lighter, or car.

Publishing anything this model generates is the same as publishing it yourself.

You are responsible for the content you publish, and you cannot blame the model any more than you can blame the knife, gun, lighter, or car for what you do with it.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.53.44
ARC (25-shot)62.12
HellaSwag (10-shot)83.45
MMLU (5-shot)58.24
TruthfulQA (0-shot)50.81
Winogrande (5-shot)78.45
GSM8K (5-shot)14.25
DROP (3-shot)26.74

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.57.89
AI2 Reasoning Challenge (25-Shot)62.12
HellaSwag (10-Shot)83.45
MMLU (5-Shot)58.24
TruthfulQA (0-shot)50.81
Winogrande (5-shot)78.45
GSM8k (5-shot)14.25

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
68ac30d

0 моделей