/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
NeuralDaredevil-8B-abliterated
Опубликована
29 мая 2024

NeuralDaredevil-8B-abliterated-GGUF

Генерация текстаТекст → текст3 профессии

QuantFactory/NeuralDaredevil-8B-abliterated-GGUF — это квантизированная версия модели mlabonne/NeuralDaredevil-8B-abliterated, созданная с помощью llama.cpp.

4 393скачиваний за 30 дней100лайковвеса обновлены29 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Базовая модель представляет собой DPO-дотюнинг mlabonne/Daredevil-8B-abliterated, выполненный в течение одной эпохи на наборе данных mlabonne/orpo-dpo-mix-40k. По заявлению автора, такое обучение восстановило часть производительности, потерянной после abliteration, и позволило получить модель без стандартных ограничений alignment.

Модель предназначена для генерации текста, ролевых сценариев и других приложений, где не требуется alignment или следование ограничениям безопасности. Она протестирована в LM Studio с пресетом «Llama 3». Размер модели — 8B параметров; формат GGUF рассчитан на использование через llama.cpp и совместимые приложения. Сведения о поддерживаемых языках, длине контекста, точной архитектуре и конкретном варианте квантования в README не указаны.

Среди заявленных сильных сторон — улучшение результатов по сравнению с исходной abliterated-моделью и хорошие показатели на ряде тестов: MMLU — 69,1, HellaSwag — 85,05, ARC-Challenge — 69,28, GSM8K — 71,8, Winogrande — 78,69 и TruthfulQA — 60. При этом модель позиционируется как uncensored, поэтому может не иметь защитных механизмов и быть непригодной для сценариев, требующих надежного соблюдения политик безопасности. В метаданных указана лицензия «other» без подробного описания условий использования.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

NeuralDaredevil-8B-abliterated-GGUF

This is quantized version of mlabonne/NeuralDaredevil-8B-abliterated created using llama.cpp

Model Description

image/jpeg

This is a DPO fine-tune of mlabonne/Daredevil-8-abliterated, trained on one epoch of mlabonne/orpo-dpo-mix-40k. The DPO fine-tuning successfully recovers the performance loss due to the abliteration process, making it an excellent uncensored model.

🔎 Applications

NeuralDaredevil-8B-abliterated performs better than the Instruct model on my tests.

You can use it for any application that doesn't require alignment, like role-playing. Tested on LM Studio using the "Llama 3" preset.

🏆 Evaluation

Open LLM Leaderboard

NeuralDaredevil-8B is the best-performing uncensored 8B model on the Open LLM Leaderboard (MMLU score).

image/png

Nous

Evaluation performed using LLM AutoEval. See the entire leaderboard here.

ModelAverageAGIEvalGPT4AllTruthfulQABigbench
mlabonne/NeuralDaredevil-8B-abliterated 📄55.8743.7373.659.3646.8
mlabonne/Daredevil-8B 📄55.8744.1373.5259.0546.77
mlabonne/Daredevil-8B-abliterated 📄55.0643.2973.3357.4746.17
NousResearch/Hermes-2-Theta-Llama-3-8B 📄54.2843.972.6256.3644.23
openchat/openchat-3.6-8b-20240522 📄53.4944.0373.6749.7846.48
meta-llama/Meta-Llama-3-8B-Instruct 📄51.3441.2269.8651.6542.64
meta-llama/Meta-Llama-3-8B 📄45.4231.169.9543.9136.7

🌳 Model family tree

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
99fa678

0 моделей