Характеристики

Контекст: 131 072 токена
Параметры: 122 млрд
Размер весов: 245 ГБ
Лицензия: MIT
Архитектура: mistral · dense
Опубликована: 29 июл 2024

Ссылки

Hugging Face

SchizoGPT-123B

v2ray

Генерация текстаТекст → текст3 профессии

Дообученная на переписке Discord англоязычная модель Mistral на 122,2 млрд параметров для генерации текста и диалогов.

19скачиваний за 30 дней0лайковвеса обновлены29 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SchizoGPT 123B — языковая модель, разработанная v2ray и дообученная на дампе сообщений из канала #general Discord-сервера r/ChatGPT. Модель основана на Mistral Large Instruct 2407; веса объединены в формате bfloat16 с QLoRA-адаптером SchizoGPT-123B-QLoRA. Это плотная авторегрессионная модель Mistral с 122,2 млрд параметров, предназначенная для генерации текста и диалогов. Контекстное окно составляет 131 072 токена.

Модель рассчитана на англоязычные беседы в стиле исходного сообщества. В карточке описан шаблон промпта с датами, именами пользователей и каналами, что подходит для воспроизведения формата групповой переписки. Репозиторий содержит веса Safetensors, лицензия — MIT.

Обучение на дампе конкретного Discord-сообщества может влиять на стиль и содержание ответов; качество и достоверность отдельных ответов не гарантируются данными карточки. Метка «not-for-all-audiences» указывает, что модель может быть неподходящей для всех аудиторий.

Сценарии применения

генерация ответов в англоязычном чате
имитация групповой переписки с упоминаниями пользователей и каналов
продолжение диалогов в формате сообщества r/ChatGPT

Ограничения

Модель обучена на дампе сообщений конкретного Discord-сообщества, поэтому ответы могут отражать его стиль и особенности данных. Метка карточки «not-for-all-audiences» указывает на возможную непригодность для некоторых аудиторий.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SchizoGPT 123B

Fine tuned on r/ChatGPT Discord #general dump.
Merged into bfloat16 using mistralai/Mistral-Large-Instruct-2407 as base and v2ray/SchizoGPT-123B-QLoRA as QLoRA.

Prompt Template

Date: 2024/4<username>username1<message>message 1<message>message 2<username>username2<message>message 1<message>message 2<username>username3<message>

Date prefix is optional:

<username>username1<message>message 1<message>message 2<username>username2<message>message 1<message>message 2<username>username3<message>

Use @username to ping a user and #channel name to mention a channel.
Prepend <Re: username> before a message to respond to a user.
Use <filename.ext> to mention a file in a link, for example, if you have https://example.com/image.jpg, use <image.jpg>:

Date: 2023/12<username>example#0001<message>Hello!<username>example#0002<message><Re: example#0001> Hi, look at this image of a cat! <cat.png><username>example#0001<message><Re: example#0002>

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: e96c060