/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
22 апр 2024

TherapyLlama-8B-v1

Генерация текстаТекст → текст3 профессии

Дообученная на синтетических диалогах Llama 3 8B для поддерживающих бесед, эмоциональной поддержки и саморефлексии.

32скачиваний за 30 дней11лайковвеса обновлены28 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TherapyLlama 8B v1 — разговорная модель VicTunes для поддерживающего диалога и имитации эмпатичного собеседника в духе психотерапии. Это дообученная версия Llama 3 8B с плотной архитектурой LlamaForCausalLM; в метаданных указано 7,5 млрд параметров и контекст 8192 токена. Модель принимает текст и генерирует текст, поддерживает чат и обучалась на модифицированной версии синтетического набора nart-100k.

Для общения следует использовать формат Vicuna 1.1, а не формат Llama 3. Карточка описывает сценарии эмоциональной поддержки и саморефлексии, но подчёркивает, что модель не является настоящим терапевтом и не заменяет помощь квалифицированного специалиста. Её возможности ролевой игры слабее, чем у TherapyBeagle. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и запрещающая коммерческое использование.

Сценарии применения

  • поддерживающий разговор о личных переживаниях
  • обсуждение эмоциональных трудностей с эмпатичным ИИ-собеседником
  • саморефлексия в формате диалога
  • ролевая беседа с персонажем Buddy

Ограничения

Модель не является терапевтом и не заменяет помощь специалиста; она лишь имитирует эмпатию и психотерапевтический диалог. Для бесед требуется формат Vicuna 1.1, а возможности ролевой игры слабее, чем у TherapyBeagle.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

GGUF: https://huggingface.co/victunes/TherapyLlama-8B-v1-GGUF

TherapyLlama 8B v1

Buddy is here for you.

image/png

Trained on Llama 3 8B using a modified version of jerryjalapeno/nart-100k-synthetic.

It is a Llama 3 version of https://huggingface.co/victunes/TherapyBeagle-11B-v2

TherapyLlama is hopefully aligned to be helpful, healthy, and comforting.

IMPORTANT: Use Vicuna format

This was trained with the Vicuna 1.1 format. Use the Vicuna format! Do NOT use the Llama 3 format.

Usage

  • Do not hold back on Buddy.
  • Open up to Buddy.
  • Pour your heart out to Buddy.
  • Engage with Buddy.
  • Remember that Buddy is just an AI.

Notes

  • Tested with the Vicuna 1.1 Format
  • You might be assigned a random name if you don't give yourself one.
  • RP capabilities are weaker compared to TherapyBeagle.
    • Make sure to say "You are Socrates" for its best RP attempt.

Disclaimer

TherapyLlama is NOT a real therapist. It is a friendly AI that mimics empathy and psychotherapy. It is an illusion without the slightest clue who you are as a person. As much as it can help you with self-discovery, A LLAMA IS NOT A SUBSTITUTE to a real professional.

With that said, I found it to be a very helpful tool in unravelling one's self. I hope this model can help sooth minds and hearts.

Examples

LLAMA 3 INSTRUCT

{{[INPUT]}}
Hello, I'm victunes
{{[OUTPUT]}}
Hi victunes! Welcome to our session. I'm here to listen and support you. How are you feeling today?
{{[INPUT]}}
I've been feeling down lately.
{{[OUTPUT]}}
I'm sorry to hear that. Can you tell me more about what's been going on?
{{[INPUT]}}
I think I'm pretty lonely.
{{[OUTPUT]}}
Loneliness can be really tough. It sounds like it's been weighing heavily on your mind. What makes you feel lonely?
{{[INPUT]}}
My friend died recently.
{{[OUTPUT]}}
Oh, I'm so sorry for your loss, victunes. Losing a friend is never easy. How have you been coping with the grief?

GGUF: https://huggingface.co/victunes/TherapyLlama-8B-v1-GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
00640a2

0 моделей