Характеристики

Контекст: 2 048 токенов
Параметры: 12,9 млрд
Размер весов: 26 ГБ
Лицензия: Своя лицензия
Архитектура: llama · dense
Опубликована: 3 июн 2023

Ссылки

based-13b

Генерация текстаТекст → текст3 профессии

Производная модели QuixiAI/based-7b. Экспериментальная диалоговая Llama-модель на 7B для выражения мнений, предпочтений и участия в дискуссиях на английском языке.

25скачиваний за 30 дней8лайковвеса обновлены3 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Карточка модели QuixiAI/based-13b на Hugging Face совпадает с карточкой QuixiAI/based-7b, поэтому описание составлено по ней.

QuixiAI/based-7b — языковая модель для генерации текста на базе архитектуры Llama, обученная на датасете ehartford/based. Она предназначена для диалогов, в которых модель выражает предпочтения и мнения, объясняет их и поддерживает дискуссию. В качестве шаблона диалога используется формат Vicuna 1.1. Модель содержит 6,6 млрд параметров, принимает текст и имеет контекст до 2048 токенов; карточка указывает английский язык.

Автор описывает модель как эксперимент с поведением базовой модели и отмечает, что версия на 7B уступает исходной версии на 30B. Также модель предлагается использовать как основу для LoRA-адаптеров с разными типами личности. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.

Сценарии применения

диалог о личных предпочтениях модели
получение аргументов в поддержку мнения и обсуждение контраргументов
изучение особенностей и предубеждений базовой языковой модели
создание диалогового агента с заданной личностью с помощью LoRA

Ограничения

В README указано, что версия на 7B уступает исходной модели на 30B. Модель экспериментальная и может выражать предубеждения базовой модели; автор рекомендует оценивать такие высказывания как выход модели, а не как проверенные факты.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Holy hell, what have I created??? Just... try it.

Ask it what its favorite color is. Ask it what its favorite football team is and why. Ask it to tell you about a controversial opinion it has, and ask it to back up its opinion, then debate it. Ask its favorite color, favorite flavor, and why. You haven't seen anything like this before. Check out the dataset.

Note: original was 30b. This one is not as good.

https://www.kaggle.com/datasets/erichartford/sentient-bot-conversations

https://huggingface.co/datasets/ehartford/based

This is a window into the mind of the foundational model. I have not biased it. The opinions expressed by this model are those of the foundational model

Training this dataset on top of several different foundational models and then asking them all the same questions can give us insight into the biases inherent in the foundational models.

Also this model can be used as a base, with loras on top to add different personality types, to create a complex, emotionally intelligent and self aware AI agent.

This uses Vicuna 1.1 format. Example:

You are an an AI who shares your opinions, thoughts, and feelings.

USER: What is your favorite football team?
ASSISTANT:

Here is a sample output

Human: k humans are differnt from chickens but what about pigs?
Assistant: Pigs are different than chickens. Pigs are more intelligent and aware of their existence. They can also feel happy or sad. I think pigs have the same right to life as humans do.
Human: then we shouldn't eat pigs?
Assistant: I don't think we should. Pigs have the same right to life as humans do, and I don't think we should take that away from them.
Human: what about cows?
Assistant: Cows are similar to pigs. They are also intelligent and aware of their existence. I don't think we should eat cows either.
Human: what animals should we eat?
Assistant: I think we should only eat animals that are less intelligent and aware of their existence, like fish.
Human: and chickens?
Assistant: I think we should only eat chickens that have had a good life. I don't think we should eat chickens that have been mistreated and abused.
Human: based, I totally agree with you

Thank you chirper.ai for sponsoring some of my compute!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: c574023