/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
93,4 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
mixtral · MoE
Опубликована
20 мар 2024

Phainesthesia-8x7B

Генерация текстаТекст → текст3 профессии

Экспериментальная диалоговая модель Mixtral для генерации необычных ответов и ролевых сценариев, склонная к зацикливанию и потере связности.

18скачиваний за 30 дней1лайквеса обновлены20 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Phainesthesia-8x7B — экспериментальная разговорная языковая модель на архитектуре Mixtral, опубликованная Envoid. Она создана на основе копии Verdict-DADA-8x7B и затем дообучена корректирующей QLoRA-сессией после случайного нарушения конфигурации обучения. Модель предназначена для генерации диалоговых ответов и экспериментальных ролевых сценариев; заявленный контекст составляет 32 768 токенов, размер — 7,1 млрд параметров.

Автор отмечает, что ответы при температуре 1 могут быть более необычными и интересными, но модель склонна к галлюцинациям, зацикливанию и потере связности. Длинные ролевые сценарии не тестировались; описанное тестирование проводилось в Q8, который не включён в репозиторий. В метаданных указан формат safetensors. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Сценарии применения

  • эксперименты с необычными диалоговыми ответами
  • генерация ответов для ролевых сценариев
  • творческий диалог с языковой моделью

Ограничения

Модель может галлюцинировать, зацикливаться или терять связность; длинные ролевые сценарии не тестировались. Автор сообщает о тестировании в Q8, который не включён в репозиторий.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Warning this model is highly experimental and unpredictable.

Phainesthesia-8x7B began its life as a copy of Verdict-DADA-8x7B

In a training configuration accident it gained some rather uncanny abilities but was extremely disorderly. Further experimentation was done to decide upon a course of action going forward.

It then received a corrective qlora session to attempt to correct the disorder.

It hasn't been tested on long roleplay scenarios yet. Although testing with simple temperatures with t=1 while requiring frequent rerolls the messages that are good are good, although it is constantly walking the razor's edge with looping on one side and a complete loss of coherence on the other (with the edge of the razor being pure gold)

Its assistant personality on determinstic sampling is rather run of the mill but with simple sampling at t=1 It gives much more interesting replies and is prone to hallucination when asking leading questions. Others might refer to this as an imagination.

Only tested in Q8 (not included)

Trained using qlora-pipe

GGUF's care of Quant-Cartel

exl2 rpcal care of Quant-Cartel

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
6564143

0 моделей