Характеристики

Контекст: 32 768 токенов
Параметры: 7,1 млрд
Размер весов: 93,4 ГБ
Лицензия: MIT
Архитектура: mixtral · MoE
Опубликована: 9 апр 2024

Ссылки

SchizoGPT-8x7B

Генерация текстаТекст → текст3 профессии

Дообученная на сообщениях Discord r/ChatGPT модель Mixtral для генерации текста и продолжения переписки в стиле сообщества.

23скачиваний за 30 дней0лайковвеса обновлены18 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SchizoGPT 8x7B — языковая модель, созданная v2ray и дообученная на выгрузке канала #general в Discord-сообществе r/ChatGPT. Она предназначена для генерации текста в стиле общения участников этого сообщества и может применяться для продолжения переписки или создания ответов в похожем формате.

Модель основана на Mixtral 8x7B и объединяет веса в формате bfloat16 с QLoRA-дообучением SchizoGPT-8x7B-QLoRA. В карточке Hugging Face указаны архитектура Mixtral MoE, 7,1 млрд параметров, контекст до 32 768 токенов и поддержка английского языка. Для диалогов описан шаблон с датами, именами пользователей, сообщениями, упоминаниями пользователей и каналов.

Репозиторий распространяется под лицензией MIT. Данные обучения происходят из конкретного Discord-сообщества, поэтому ответы могут отражать его стиль и содержание; карточка не приводит оценок качества или гарантий точности.

Сценарии применения

генерация ответов в стиле переписки Discord r/ChatGPT
продолжение диалога с сохранением формата сообщений и имён участников
создание примеров неформальной англоязычной переписки
эксперименты с генерацией текста на основе Mixtral

Ограничения

Дообучение основано на выгрузке одного сообщества Discord, поэтому стиль и содержание ответов могут быть специфичными для этих данных. В карточке нет оценок качества модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SchizoGPT 8x7B

Fine tuned on r/ChatGPT Discord #general dump.
Merged into bfloat16 using mistralai/Mixtral-8x7B-v0.1 as base and v2ray/SchizoGPT-8x7B-QLoRA as QLoRA.

Prompt Template

Date: 2024/4<username>username1<message>message 1<message>message 2<username>username2<message>message 1<message>message 2<username>username3<message>

Date prefix is optional:

<username>username1<message>message 1<message>message 2<username>username2<message>message 1<message>message 2<username>username3<message>

Use @username to ping a user and #channel name to mention a channel.
Prepend <Re: username> before a message to respond to a user.
Use <filename.ext> to mention a file in a link, for example, if you have https://example.com/image.jpg, use <image.jpg>:

Date: 2023/12<username>example#0001<message>Hello!<username>example#0002<message><Re: example#0001> Hi, look at this image of a cat! <cat.png><username>example#0001<message><Re: example#0002>

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры: MixtralForCausalLM
Ревизия весов: 11f75a4