/ Модель

Характеристики

Контекст
12 000 токенов
Параметры
8,6 млрд
Размер весов
17,7 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
dolphin-2.9.1-yi-1.5-9b
Опубликована
17 июн 2024

HumanlikeRP

Генерация текстаТекст → текст3 профессии

HumanlikeRP — экспериментальная дообученная чат-модель для коротких, похожих на человеческие реплик в диалоге.

25скачиваний за 30 дней0лайковвеса обновлены26 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

HumanlikeRP — экспериментальная чат-модель, разработанная TouchNight на базе cognitivecomputations/dolphin-2.9.1-yi-1.5-9b. Это плотная авторегрессионная модель семейства Llama с 8,6 млрд параметров, дообученная для диалога в формате ChatML и коротких ответов, похожих на человеческие. Она предназначена для ролевых бесед и чат-сценариев, где важны краткие реплики. Модель принимает текст и генерирует текст; в метаданных указаны языки zh и en, а длина контекста составляет 12 000 токенов.

Используются веса PyTorch, лицензия — Apache-2.0. Разработчик сообщает о слабой релевантности контекста в обучающих данных и переобучении, из-за чего модель часто отвечает не по теме; сам автор считает попытку неудачной.

Сценарии применения

  • короткие ответы в ролевом чат-диалоге
  • имитация непринуждённой переписки
  • создание персонажа для текстового чат-бота

Ограничения

Модель может часто выдавать нерелевантные ответы из-за слабой связи контекста в обучающих данных и переобучения. Автор характеризует результат как неудачный.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

HumanlikeRP

It is an attempt to build a Humanlike chatbot.
Designed to make it give short reply like a real human.

It is a failure, the dataset used to train it has weak context relevancy. So it often generates irrelevant answer. And it is also overfitting.

Chat Format

This model has been trained to use ChatML format.

<|im_start|>system
{{system}}<|im_end|>
<|im_start|>{{char}}
{{message}}<|im_end|>
<|im_start|>{{user}}
{{message}}<|im_end|>

Uploaded model

  • Developed by: TouchNight
  • License: apache-2.0
  • Finetuned from model : cognitivecomputations/dolphin-2.9.1-yi-1.5-9b

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
47c2134

0 моделей