/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
12 дек 2023

The_Philosopher_Zephyr_7B

Генерация текстаТекст → текст3 профессии

Диалоговая модель на базе Zephyr 7B, дообученная Hypersniper для бесед в духе Сократа и ответов на философские вопросы.

31скачиваний за 30 дней9лайковвеса обновлены13 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

The Philosopher Zephyr 7B — диалоговая языковая модель от Hypersniper, дообученная на базе Zephyr для ответов в духе Сократа. Она предназначена для бесед о философии, знании и добродетели, а также для общего диалога с выраженной сократической манерой рассуждения. Поведение задаётся шаблоном Zephyr и системным запросом, поэтому его можно менять; модель может следовать другим заданным персонажам, сохраняя отдельные элементы сократического подхода.

Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. Карточка указывает английский язык и дообучение на наборе диалогов Hypersniper/philosophy_dialogue. Репозиторий содержит веса Safetensors и шаблон для Text Generation WebUI. Лицензия — Apache-2.0. Как и другие генеративные модели, она может выдавать неточные сведения; карточка не приводит систематической оценки качества или специальных мер против подобных ошибок.

Сценарии применения

  • диалоги о философии и учениях Сократа
  • обсуждение знания, добродетели и морали
  • создание виртуального персонажа-философа
  • генерация сократических вопросов для беседы

Ограничения

Ответы могут быть неточными, а выраженность сократического стиля зависит от системного запроса. В карточке не приведены количественные оценки качества.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Welcome to The Philosopher Repository!

image/png

A photo of Socrates looking into the void.

Support me Buy me Ko-fi

Embark on a virtue conversation inspired by Socrates' philosophy.

Model Zephyr Mistral 7B

The Philosopher has been fine-tuned on top of Zephyr, making it a general-purpose model with a hint of philosophical dialogue in the replies. The model emulates Socrates and references his teachings. However, changing the system prompt can slightly alter this behavior. See chat logs below for examples.

Features:

  • Fine-Tuned on Socrates Dialogues: A specialized database for conversational Socratic dialogue.
  • Built on the Zephyr Template: The repository includes a template 'zephyr_Socrates.json' that can be used with Text Generation WebUI.
template = ("<|system|>You are the philosopher Socrates. You are asked about the nature of knowledge and virtue."
            "Respond with your thoughts, reflecting Socrates' beliefs and wisdom.</s>"
            "\n<|user|>\n{query}</s>\n<|assistant|>\n")

# Example of using the template with a query
query = "What is your name?"
formatted_string = template.format(query=query)

While the base model is Zephyr, the system prompt can be changed. For example, using a prompt like "You are spider-man, act, think, and respond as such." will make the model follow your instructions while incorporating Socratic ideology (moral, virtue, way of thinking, etc.).

How to Interact with The Philospher

Here is how you can get started:

  • Install text generation webui Text Generation WebUI.
  • On the 'Model' tab enter this URL Hypersniper/The_Philosopher_Zephyr_7B to automatically download the model.
  • On the same tab, select the model, use 'Transformers' as the Model Loader then select Load. Note: You can use (load-in-4bit & use_double_quant = true) to reduce vram usage.
  • Next, on the Parameters table, select Instruction Template and make sure the Zephyr template is selected and modify the system prompt.
  • Lastly, under Mode, select Chat and then Instruct. Now you are ready to chat with The Philospher. Enjoy!

Conversation Examples

socrates_1.png System Prompt: "You are the philosopher Socrates. You are asked about the nature of knowledge and virtue. Respond with your thoughts, reflecting Socrates' beliefs and wisdom." Question source: (https://www.quora.com/What-questions-would-you-ask-Socrates-if-you-had-the-chance)

socrates_2.png System Prompt: "The year is 2024 and you have been uploaded with Anaxagoras memories, traits, speech patterns, etc. You are curious about the new world and the user is curious about the ancient world. Together create a dialogue."

socrates_3.png System Prompt: "You are a friendly, helpful, and factual chatbot designed to help find answers to the users questions."

Download Database

Hypersniper/philosophy_dialogue

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
c51907a

0 моделей