Характеристики

Контекст: 131 072 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: MIT
Архитектура: llama · dense
Опубликована: 29 июл 2024

Ссылки

Hugging Face

SchizoGPT-8B

v2ray

Генерация текстаТекст → текст3 профессии

Дообученная на переписке Discord модель на базе Llama 3.1 для генерации сообщений в формате чата.

25скачиваний за 30 дней1лайквеса обновлены29 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SchizoGPT 8B — языковая модель v2ray, дообученная на дампе канала #general в Discord-сообществе r/ChatGPT и объединённая с QLoRA-адаптером v2ray/SchizoGPT-8B-QLoRA. В основе лежит Meta-Llama-3.1-8B; модель использует архитектуру LlamaForCausalLM с плотными весами и содержит около 7,5 млрд параметров.

Модель предназначена для генерации текста в формате переписки Discord. Шаблон промпта передаёт дату, имена пользователей и сообщения; в README также описаны упоминания пользователей и каналов, ответы пользователям и ссылки на файлы. Метаданные указывают английский язык и контекст длиной до 131 072 токенов. Весы опубликованы в формате safetensors по лицензии MIT.

Обучение на дампе Discord задаёт разговорный контекст, но карточка не приводит оценок качества или гарантий поведения в других сценариях. Модель может воспроизводить особенности исходных сообщений и не предназначена для аудитории любого возраста согласно тегу not-for-all-audiences.

Сценарии применения

генерация сообщений в стиле Discord-чата
продолжение переписки с указанием имён пользователей
подготовка ответов на сообщения в канале
создание текста с упоминаниями пользователей и каналов
генерация разговорного текста на английском

Ограничения

Модель обучена на дампе Discord, поэтому может воспроизводить его особенности и не гарантирует надёжного поведения вне этого сценария. В метаданных стоит тег not-for-all-audiences.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SchizoGPT 8B

Fine tuned on r/ChatGPT Discord #general dump.
Merged into bfloat16 using meta-llama/Meta-Llama-3.1-8B as base and v2ray/SchizoGPT-8B-QLoRA as QLoRA.

Prompt Template

Date: 2024/4<username>username1<message>message 1<message>message 2<username>username2<message>message 1<message>message 2<username>username3<message>

Date prefix is optional:

<username>username1<message>message 1<message>message 2<username>username2<message>message 1<message>message 2<username>username3<message>

Use @username to ping a user and #channel name to mention a channel.
Prepend <Re: username> before a message to respond to a user.
Use <filename.ext> to mention a file in a link, for example, if you have https://example.com/image.jpg, use <image.jpg>:

Date: 2023/12<username>example#0001<message>Hello!<username>example#0002<message><Re: example#0001> Hi, look at this image of a cat! <cat.png><username>example#0001<message><Re: example#0002>

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 280b6dd