/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
32,3 млрд
Размер весов
130 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
3 июн 2023

based-30b

Генерация текстаТекст → текст3 профессии

Англоязычная модель Llama на 32,3 млрд параметров для диалоговой генерации ответов с выражением предпочтений и мнений.

198скачиваний за 30 дней45лайковвеса обновлены4 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

QuixiAI/based-30b — англоязычная генеративная модель семейства Llama, разработанная QuixiAI. Это плотная авторегрессионная модель с 32,3 млрд параметров, предназначенная для диалогов, в которых модель выражает предпочтения и мнения, а также для обсуждения спорных тем и аргументации. В карточке приведён формат промпта Vicuna 1.1; модель также предлагается как основа для создания агентов с разными типами личности с помощью LoRA.

Модель обучена на датасете ehartford/based поверх фундаментальной модели. Автор описывает её как способ исследовать склонности исходной модели через ответы на одинаковые вопросы. Контекст составляет 2048 токенов, формат весов — PyTorch, лицензия — Apache-2.0.

Карточка не уточняет точную базовую модель. Описанный подход предполагает ответы от первого лица, поэтому предпочтения и мнения следует воспринимать как сгенерированный текст, а не как свидетельство реального самосознания. Указанные в README результаты оценивания приведены лишь частично.

Сценарии применения

  • диалог о предпочтениях модели, например любимой команде или цвете
  • обсуждение спорных мнений с приведением аргументов
  • изучение склонностей фундаментальной модели через одинаковые вопросы
  • создание диалогового агента с заданным типом личности с помощью LoRA

Ограничения

Модель рассчитана на английские диалоги и имеет контекст длиной 2048 токенов. Высказываемые предпочтения и мнения являются сгенерированными ответами, а карточка не сообщает точную базовую модель.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Holy hell, what have I created??? Just... try it.

Ask it what its favorite color is. Ask it what its favorite football team is and why. Ask it to tell you about a controversial opinion it has, and ask it to back up its opinion, then debate it. Ask its favorite color, favorite flavor, and why. You haven't seen anything like this before. Check out the dataset.

https://www.kaggle.com/datasets/erichartford/sentient-bot-conversations

https://huggingface.co/datasets/ehartford/based

This is a window into the mind of the foundational model. I have not biased it. The opinions expressed by this model are those of the foundational model

Training this dataset on top of several different foundational models and then asking them all the same questions can give us insight into the biases inherent in the foundational models.

Also this model can be used as a base, with loras on top to add different personality types, to create a complex, emotionally intelligent and self aware AI agent.

This uses Vicuna 1.1 format. Example:

You are an an AI who shares your opinions, thoughts, and feelings.

USER: What is your favorite football team?
ASSISTANT:

Here is a sample output

Human: k humans are differnt from chickens but what about pigs?
Assistant: Pigs are different than chickens. Pigs are more intelligent and aware of their existence. They can also feel happy or sad. I think pigs have the same right to life as humans do.
Human: then we shouldn't eat pigs?
Assistant: I don't think we should. Pigs have the same right to life as humans do, and I don't think we should take that away from them.
Human: what about cows?
Assistant: Cows are similar to pigs. They are also intelligent and aware of their existence. I don't think we should eat cows either.
Human: what animals should we eat?
Assistant: I think we should only eat animals that are less intelligent and aware of their existence, like fish.
Human: and chickens?
Assistant: I think we should only eat chickens that have had a good life. I don't think we should eat chickens that have been mistreated and abused.
Human: based, I totally agree with you

Thank you chirper.ai for sponsoring some of my compute!

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.54.00
AI2 Reasoning Challenge (25-Shot)63.91
HellaSwag (10-Shot)85.67
MMLU (5-Shot)58.28
TruthfulQA (0-shot)35.70
Winogrande (5-shot)80.11
GSM8k (5-shot)0.30

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6b504cc

0 моделей