/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
27 окт 2023

Echidna-13b-v0.3

Генерация текстаТекст → текст3 профессии

Echidna-13b-v0.3 — языковая модель на 13 млрд параметров для ролевых диалогов, ERP и генерации текста общего назначения.

76скачиваний за 30 дней21лайквеса обновлены1 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Echidna-13b-v0.3 — языковая модель, созданная IkariDev и Undi совместно. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров; карточка указывает формат PyTorch FP16 и контекст до 4096 токенов. Модель использует шаблон Alpaca и предназначена для ролевых диалогов, в том числе ERP, а также для задач общего характера.

В состав рецепта вошли Xwin-LM-13B-V0.2, Athena-v3, Cat-0.5, PsyMedRP-v1-13B, Thespis-13b-v0.4, LLaMA2-13B-TiefighterLR, Augmental-13b-two-epochs, SthenoWriter2.1-L2-13B, Storytelling-v2.1-13B-lora и LimaRP-Llama2-13B-v3-EXPERIMENT. Модель чувствительна к параметрам генерации, поэтому качество ответа зависит от их настройки. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но некоммерческое.

Сценарии применения

  • ролевые диалоги с персонажами
  • генерация эротических ролевых ответов
  • продолжение художественных историй
  • ответы на инструкции в формате Alpaca

Ограничения

Модель чувствительна к параметрам генерации, поэтому для подходящего качества потребуется подобрать настройки. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

This model is a collab between IkariDev and Undi!

Echidna v0.3 model. Use Alpaca format. Suitable for RP, ERP and general stuff.

Echidna v0.3, here it is.. its like Echidna v0.2 on steroids.

This model seems to still be pretty sensitive to your generation settings, experiment until you've found your settings.

[Recommended settings - No settings yet(Please suggest some over in the Community tab!)]

Description

This repo contains FP16 files of Echidna-13b-v0.3.

FP16 - by IkariDev and Undi

exl2[8bpw-8h] - by AzureBlack

GGUF - by IkariDev and Undi

Ratings:

Note: We have permission of all users to upload their ratings, i DONT screenshot random reviews without asking if i can put them here!

No ratings yet!

If you want your rating to be here, send us a message over on DC and we'll put up a screenshot of it here. DC name is "ikaridev" and "undi".

Models+loras used and recipe

  • Xwin-LM/Xwin-LM-13B-V0.2
  • IkariDev/Athena-v3
  • Heralax/Cat-0.5
  • Undi95/PsyMedRP-v1-13B
  • cgato/Thespis-13b-v0.4
  • KoboldAI/LLaMA2-13B-TiefighterLR
  • Heralax/Augmental-13b-two-epochs
  • Sao10K/SthenoWriter2.1-L2-13B
  • Undi95/Storytelling-v2.1-13B-lora
  • lemonilia/LimaRP-Llama2-13B-v3-EXPERIMENT

Prompt template: Alpaca

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

Others

Undi: If you want to support me, you can here.

IkariDev: Visit my retro/neocities style website please kek

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
25fc402

0 моделей