/ Модель
Каталог

Характеристики

Контекст
4 096 токенов
Параметры
103 млрд
Лицензия
Llama 2
Архитектура
llama · dense
Опубликована
28 ноя 2023

Ссылки

Hugging Face

Venus-103b-v1.1

nsfwthrowitaway69
Генерация текстаТекст → текст3 профессии

Объединённая языковая модель Llama на 103 млрд параметров для генерации творческого текста и диалогов в ролевых сценариях.

30скачиваний за 30 дней14лайковвеса обновлены6 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Venus-103b-v1.1 — языковая модель для генерации текста, созданная автором репозитория путём объединения слоёв Sao10K/Euryale-1.3-L2-70B, migtissera/SynthIA-70B-v1.2b и Xwin-LM/Xwin-LM-70B-V0.1 с помощью mergekit. Модель построена на архитектуре Llama, содержит 102,9 млрд параметров и рассчитана на контекст до 4096 токенов. Карточка описывает её как вариант для разговорных ролевых сценариев: модель чаще говорит от лица персонажей и создаёт творческую, связную прозу.

Модель может генерировать контент для взрослых. По карточке, она устойчивее к откровенным и шокирующим темам, чем Venus-103b-v1.0; иногда теряет мелкие детали сцены. Репозиторий содержит веса Safetensors и ссылается на отдельные ветки с квантизацией EXL2. Указана лицензия Llama 2.

Сценарии применения

  • ведение диалогов от лица персонажа
  • создание творческой прозы
  • генерация сцен для ролевых игр
  • продолжение художественного текста

Ограничения

По карточке, модель может упускать мелкие детали сцены и более устойчива к откровенным и шокирующим темам, чем Venus-103b-v1.0. Для запуска требуются значительные вычислительные ресурсы; автор приводит ориентиры VRAM только для квантизованных версий в отдельных ветках.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Venus 103b - version 1.1

image/png

Model Details

Warning: This model will produce NSFW content!

Results

  1. Seems to be more "talkative" than Venus-103b-v1.0 (i.e characters speakmore often in roleplays)
  2. Is more resistant to nsfw/nsfl stuff than 1.0. If you're looking for totally uncensored roleplays, I'd recommend 1.0 instead.
  3. Sometimes struggles to pay attention to small details in the scenes
  4. Prose seems pretty creative and more logical than Venus-120b-v1.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
2f3951c

0 моделей

    Создать бенчмарк