Диалоговая модель на базе Llama 2 для генерации развёрнутых ответов в многоходовом текстовом чате.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Luna AI Llama2 Uncensored — диалоговая языковая модель на архитектуре Llama 2, дообученная Tap для Luna AI на более чем 40 тысячах длинных синтетических переписок между человеком и ИИ. Модель предназначена для генерации ответов в многоходовом чате и следует формату запросов Vicuna 1.1/OpenChat. Она содержит 6,6 млрд параметров, принимает текст и имеет контекст длиной 2048 токенов.
Модель подходит для диалоговых ассистентов, свободного общения и генерации развёрнутых ответов. В README приведён результат 0,5512 по нормированной точности на ARC Challenge. Для использования указана лицензия CC BY-SA 4.0. Упомянуты сторонние варианты GPTQ для GPU и GGML для CPU; репозиторий модели содержит веса PyTorch.
Контекст ограничен 2048 токенами; заявленная настройка основана на синтетических диалогах, а приведённые в README результаты бенчмарка неполны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
4bit GPTQ Version provided by @TheBloke - for GPU inference GGML Version provided by @TheBloke - For CPU inference
USER: I have difficulties in making friends, and I really need someone to talk to. Would you be my friend?
ASSISTANT: Of course! Friends are always here for each other. What do you like to do?
| Task | Version | Metric | Value | Stderr |
| arc_challenge | 0 | acc_norm | 0.5512 | 0.0146 |
| hellaswag | 0 | |||
| mmlu | 1 | acc_norm | 0.46521 | 0.036 |
| truthfulqa_mc | 1 | mc2 | 0.4716 | 0.0155 |
| Average | - | - | 0.5114 | 0.0150 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…