/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
3,7 млрд
Размер весов
7,6 ГБ
Лицензия
MIT
Архитектура
phi3 · dense
Базовая модель
Phi-3-mini-128k-instruct
Библиотека
transformers
Опубликована
24 апр 2024

EMO-phi-128k

Генерация текстаТекст → текст3 профессии

Диалоговая модель OEvortex на базе Phi-3, дообученная для эмоционально чутких ответов и открытого общения на английском языке.

76скачиваний за 30 дней10лайковвеса обновлены24 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

EMO-phi-128k — диалоговая языковая модель OEvortex на архитектуре Phi-3, дообученная на базе microsoft/Phi-3-mini-128k-instruct для эмоционально чуткого общения. Она предназначена для открытого диалога с распознаванием эмоционального тона и уместной реакцией на него, а также для чат-ботов поддержки клиентов и творческого письма с учётом эмоционального контекста. В README также упомянуты сценарии психологической поддержки, однако возможности модели в этой области не подтверждены.

Модель содержит 3,7 млрд параметров, принимает текст и генерирует текст; для работы используется Transformers, веса доступны в формате safetensors. README называет английский основным языком. Несмотря на название, указанный контекст модели составляет 4096 токенов. Лицензия — MIT. Карточка предупреждает о возможных смещениях и вредных или явных ответах, а эмоциональные способности модели не проверены. Для чувствительных тем, особенно связанных с психическим здоровьем, требуется человеческий контроль.

Сценарии применения

  • эмоционально чуткий диалог с чат-ботом
  • создание чат-бота поддержки клиентов с учётом тона собеседника
  • написание творческих текстов с эмоциональным контекстом
  • ответы в сценариях психологической поддержки под контролем специалиста

Ограничения

Эмоциональные способности модели не проверены; возможны смещения, а также вредные или явные ответы. Для тем психического здоровья и других чувствительных сценариев необходим человеческий контроль.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

EMO-phi-128k

EMO-phi-128k is an emotional intelligence conversational AI model fine-tuned from Microsoft's Phi-3-mini-128k-instruct model. It is designed to engage in open-ended dialogue while exhibiting emotional understanding and emotional intelligence capabilities.

Model Details

  • Developer: OEvortex
  • Model Type: Transformer-based language model
  • Language: English
  • License: MIT
  • Base Model: microsoft/Phi-3-mini-128k-instruct

Model Description

EMO-phi-128k is a 128k parameter conversational AI model that has been fine-tuned to incorporate emotional intelligence and emotional understanding capabilities. It aims to engage in emotionally aware and contextual dialogue by recognizing and responding appropriately to the emotional tones and sentiments expressed by the user.

While inheriting the strong language understanding and generation capabilities of its base model, EMO-phi-128k has been specifically optimized for emotional intelligence tasks through additional fine-tuning on emotional dialogue datasets.

Intended Uses

  • Emotional Support / Conversational Companion
  • Customer Service Chatbots (with emotional intelligence)
  • Creative Writing Assistance (with emotional awareness)
  • Psychological/Therapeutic Applications

Limitations and Risks

As an AI system, EMO-phi-128k may exhibit biases present in its training data. Its true emotional intelligence capabilities are not fully known or verified. The model should be used with caution, especially in sensitive or high-stakes applications involving mental health, therapy, or counseling. Proper human oversight is recommended.

Additionally, like all language models, EMO-phi-128k is susceptible to generating harmful, biased, or explicit content if prompted in an unsafe manner. Safety considerations should be taken into account when deploying or interacting with the model.

How to Use

You can load and use the EMO-phi-128k model with the Transformers library in Python:

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline

torch.random.manual_seed(0)

model = AutoModelForCausalLM.from_pretrained(
    "OEvortex/EMO-phi-128k", 
    device_map="cuda", 
    torch_dtype="auto", 
    trust_remote_code=True, 
)
tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-3-mini-128k-instruct")

messages = [
    {"role": "system", "content": "You are a helpful Emotional intelligence named as EMO-phi, remember to always answer users question in EMO style."},
    {"role": "user", "content": "My best friend recently lost their parent to cancer after a long battle. They are understandably devastated and struggling with grief."},
]

pipe = pipeline(
    "text-generation",
    model=model,
    tokenizer=tokenizer,
)

generation_args = {
    "max_new_tokens": 500,
    "return_full_text": False,
    "temperature": 0.6,
    "do_sample": True,
}

output = pipe(messages, **generation_args)
print(output[0]['generated_text'])


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Phi3ForCausalLM
Ревизия весов
11a4ea2

0 моделей