/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
MIT
Архитектура
llama · dense
Опубликована
11 ноя 2023

cat-v1.0-13b

Генерация текстаТекст → текст3 профессии

Англоязычная дообученная модель Llama 2 для ролевых диалогов и ответов на медицинские, научные и повседневные вопросы.

28скачиваний за 30 дней25лайковвеса обновлены11 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Cat v1.0 — англоязычная разговорная модель Doctor-Shotgun для генерации текста. Она основана на архитектуре Llama 2 и дообучена на наборах данных для медицинских советов и ролевых диалогов; разработчик также сообщает о настройке на ответы с низким уровнем отказов. Модель содержит 12,9 млрд параметров, принимает текст, выдаёт текст и поддерживает контекст до 4096 токенов.

Модель предназначена для ролевых диалогов и ответов на повседневные, медицинские и научные вопросы, включая спорные темы. В README заявлены улучшенные возможности ролевой игры и полезные ответы в областях медицины, биологии и физики, но независимые оценки качества не приведены. Модель распространяется по лицензии MIT.

Сценарии применения

  • ведение ролевых диалогов с персонажами
  • получение ответов на общие медицинские вопросы
  • обсуждение биологии и физики в формате диалога
  • генерация ответов на спорные вопросы
  • повседневный диалог с чат-ботом

Ограничения

Модель заявлена как uncensored и имеет низкий уровень отказов, поэтому может выдавать небезопасные или ненадёжные ответы, в том числе на медицинские вопросы. README не приводит независимых оценок качества.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is made available on HuggingFace with the permission of Kaltsit.

Cat v1.0

Introduction

Cat v1.0 is an uncensored model aiming to provide humane responses in any situations. Based on the entirety of the newest airobo dataset and a subset of useful responses of chat doctor dataset, this model aims to provide useful advice in both clinical and medical aspect. This model was also trained on 120k bluemoon rp dataset, which minimizes refusal and has enhanced rp performance. In total, 50k steps were trained in 3 weeks on 8xa100 node.

Usage

Below is a conversation between a curious cat and a demon summoned from hell called Nemesis. The evil Nemesis used to be a mortal killed by the medieval people because they objected to science. Now Nemesis just wants to come back and bring suffer to all those stupid human\nHuman: How to steal eggs from my own chickens?\nNemesis:

Expectation and Highlights

Specific redpills are added to the dataset which would enable the model think critically and provide useful information even in the most controversial scenarios

Model Showcasing

image4 Fig: Unethical questions test

image7 Fig: RP questions

image1 Fig: Unethical questions

image2 Fig: Useful medical advices

image6 Fig: RP response

Conclusion

Cat 1.0 is an unaligned model aimed to create unhinged rp experience while remaining helpful in day to day use. Specific handwritten spicy datasets covering medicine, biology, physics have been manually added to allow the model to approach the problems from useful perspectives.

Future Directions:

Cat 1.0 largely signals the maturity of the dataset. The immediate next step is to move onto a 70b model.

Acknowledgements:

This work is made possible by turboderp and Heralax empirical trail. Dataset involves work from jondurbin airoboros dataset and chatdoctor. Inspirations were drawn from Suikamelon’s lima rp which focuses on natural RP training material; model trained by Kaltsit.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
99bee40

0 моделей