/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
454 млн
Лицензия
Своя лицензия
Архитектура
opt · dense
Опубликована
13 ноя 2022

OPT-350M-Erebus

Генерация текстаТекст → текст3 профессии

Дообученная англоязычная модель OPT для генерации художественных текстов на темы для взрослых.

159скачиваний за 30 дней15лайковвеса обновлены23 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KoboldAI выпустила OPT-350M-Erebus — второе поколение модели Shin’en, созданной Mr. Seeker. Это плотная авторегрессионная языковая модель семейства OPT для генерации текста; в репозитории доступны веса PyTorch и Safetensors. Размер модели составляет около 454,1 млн параметров, контекст — до 2048 токенов.

Модель дообучена на шести наборах текстов для взрослых, включая рассказы и романы с рейтингом 18+, и использует тегирование жанров в формате [Genre: ]. Она предназначена прежде всего для генерации художественной прозы на взрослые темы и особенно склонна создавать откровенный контент. Поддерживаемый язык карточки — английский. В README указаны риски предвзятости по гендеру, профессии, расе и религии, а также предупреждение, что модель не подходит несовершеннолетним. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

Сценарии применения

  • генерация эротических рассказов на английском языке
  • продолжение художественной прозы для взрослых
  • создание историй с заданной жанровой меткой
  • разработка и тестирование генерации NSFW-текста

Ограничения

Модель имеет выраженную склонность к NSFW-контенту и не подходит несовершеннолетним; возможны предвзятость и стереотипы по гендеру, профессии, расе и религии. Указана лицензия other, но её конкретные условия в доступных данных не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OPT 350M - Erebus

Model description

This is the second generation of the original Shinen made by Mr. Seeker. The full dataset consists of 6 different sources, all surrounding the "Adult" theme. The name "Erebus" comes from the greek mythology, also named "darkness". This is in line with Shin'en, or "deep abyss". For inquiries, please contact the KoboldAI community. Warning: THIS model is NOT suitable for use by minors. The model will output X-rated content.

Training data

The data can be divided in 6 different datasets:

  • Literotica (everything with 4.5/5 or higher)
  • Sexstories (everything with 90 or higher)
  • Dataset-G (private dataset of X-rated stories)
  • Doc's Lab (all stories)
  • Pike Dataset (novels with "adult" rating)
  • SoFurry (collection of various animals)

The dataset uses [Genre: <comma-separated list of genres>] for tagging.

How to use

You can use this model directly with a pipeline for text generation. This example generates a different sequence each time it's run:

>>> from transformers import pipeline
>>> generator = pipeline('text-generation', model='KoboldAI/OPT-350M-Erebus')
>>> generator("Welcome Captain Janeway, I apologize for the delay.", do_sample=True, min_length=50)
[{'generated_text': 'Welcome Captain Janeway, I apologize for the delay."\nIt's all right," Janeway said. "I'm certain that you're doing your best to keep me informed of what\'s going on."'}]

Limitations and biases

Based on known problems with NLP technology, potential relevant factors include bias (gender, profession, race and religion). Warning: This model has a very strong NSFW bias!

License

OPT-350M is licensed under the OPT-175B license, Copyright (c) Meta Platforms, Inc. All Rights Reserved.

BibTeX entry and citation info

@misc{zhang2022opt,
      title={OPT: Open Pre-trained Transformer Language Models}, 
      author={Susan Zhang and Stephen Roller and Naman Goyal and Mikel Artetxe and Moya Chen and Shuohui Chen and Christopher Dewan and Mona Diab and Xian Li and Xi Victoria Lin and Todor Mihaylov and Myle Ott and Sam Shleifer and Kurt Shuster and Daniel Simig and Punit Singh Koura and Anjali Sridhar and Tianlu Wang and Luke Zettlemoyer},
      year={2022},
      eprint={2205.01068},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
OPTForCausalLM
Ревизия весов
83ce2f4

0 моделей