Характеристики

Контекст: 8 192 токена
Параметры: 7,5 млрд
Размер весов: 32,1 ГБ
Архитектура: llama · dense
Опубликована: 4 мая 2024

Ссылки

Unholy-8B-DPO-OAS

Генерация текстаТекст → текст3 профессии

Экспериментальная чат-модель на базе Llama для генерации текста, полученная дообучением DPO и обработкой Orthogonal Activation Steering.

32скачиваний за 30 дней7лайковвеса обновлены4 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Undi95/Unholy-8B-DPO-OAS — экспериментальная текстовая чат-модель на базе архитектуры Llama с 7,5 млрд параметров и контекстом до 8192 токенов. Автор описывает её как тестовую сборку, созданную с помощью Orthogonal Activation Steering (OAS).

По карточке, сначала Unholy была дообучена на токсичном датасете на базе L3, затем поверх неё провели два эпоха DPO на том же датасете и применили OAS, подбирая слой. Модель предназначена для генерации текста в диалоге. В карточке не приведены сведения о языках и лицензии; она не описывает оценки качества или надёжности.

Сценарии применения

эксперименты с управлением активациями языковой модели
тестирование генерации текста в чате
изучение влияния DPO на ответы модели

Ограничения

Автор обозначает модель как тестовую и сообщает, что сам не до конца понимает используемый метод OAS. Результаты обучения и качество не оценены в карточке; лицензия не приведена.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a TEST It was made with a custom Orthogonal Activation Steering script I shared HERE : https://huggingface.co/posts/Undi95/318385306588047#663609dc1818d469455c0222 (but be ready to put your hands in some fucked up code bro)

Step :

First I took Unholy (FT of L3 on Toxic Dataset)
Then I trained 2 epoch of DPO on top, with the SAME dataset (https://wandb.ai/undis95/Uncensored8BDPO/runs/3rg4rz13/workspace?nw=nwuserundis95)
Finally, I used OAS on top, bruteforcing the layer to get the best one (I don't really understand all of this, sorry)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 05d97dd