/ Модель

Характеристики

Лицензия
Apache 2.0
Опубликована
13 янв 2024

Mistral-7B-Erebus-v3-GGUF

Генерация текстаТекст → текст3 профессии

KoboldAI/Mistral-7B-Erebus-v3-GGUF — это GGUF-версия дообученной языковой модели Mistral-7B, разработанная сообществом KoboldAI.

511скачиваний за 30 дней24лайкавеса обновлены13 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации художественного текста и совместного написания историй, прежде всего в режиме Story Mode интерфейса KoboldAI Lite и при использовании KoboldCpp. Она ориентирована на взрослый контент и не предназначена для несовершеннолетних.

Модель работает с текстом на английском языке и относится к задачам text-generation. Объём обучающего набора составляет около 2,3 млрд токенов; он включает восемь источников с преимущественно эротическими и другими материалами для взрослых. Обучение выполнялось в течение одной эпохи на восьми GPU A6000 Ada без использования специальных фреймворков. Формат GGUF рассчитан на запуск через совместимые инструменты, включая KoboldCpp.

Сильной стороной модели является специализация на создании NSFW-историй и продолжении художественного текста. Ограничения включают выраженное смещение в сторону NSFW-контента, а также потенциальные гендерные, профессиональные, расовые и религиозные предубеждения, унаследованные от NLP-технологий и обучающих данных. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is the GGUF version of this model designed to be used with Koboldcpp, the easy and versitile program for AI co-writing and more. Because this is a co-writing model, you are expected to use the Story Mode inside the KoboldAI Lite interface.

Model description

This is the third generation of the original Shinen made by Mr. Seeker. The full dataset consists of 8 different sources, all surrounding the "Adult" theme. The name "Erebus" comes from the greek mythology, also named "darkness". This is in line with Shin'en, or "deep abyss". For inquiries, please contact the KoboldAI community. Warning: THIS model is NOT suitable for use by minors. The model will output X-rated content.

Training procedure

Mistral-7B-Erebus was trained on 8x A6000 Ada GPU's for a single epoch. No special frameworks have been used.

Training data

The data can be divided in 8 different datasets:

  • Literotica (everything with 3.0/5 or higher)
  • Sexstories (everything with 70 or higher)
  • Dataset-G (private dataset of X-rated stories)
  • Doc's Lab (all stories)
  • Lushstories (Editor's pick)
  • Swinglifestyle (all stories)
  • Pike-v2 Dataset (novels with "adult" rating)
  • SoFurry (collection of various animals)

The dataset uses [Genre: <comma-separated list of genres>] for tagging.

The full dataset is 2.3B tokens in size.

Limitations and biases

Based on known problems with NLP technology, potential relevant factors include bias (gender, profession, race and religion). Warning: This model has a very strong NSFW bias!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
6eb1234

0 моделей