/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
7 окт 2023

Athena-v4

Генерация текстаТекст → текст4 профессии

Экспериментальная 12,9-миллиардная Llama-модель для ролевого общения, ERP и генерации текста общего назначения.

75скачиваний за 30 дней18лайковвеса обновлены9 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Athena-v4 — экспериментальная текстовая модель семейства Llama, опубликованная IkariDev. Репозиторий содержит веса FP16; модель использует шаблон Alpaca и предназначена для генерации текста в ролевых сценариях, ERP и задачах общего характера.

Модель размером 12,9 млрд параметров создана слиянием Athena-v3, Xwin-LM-13B-V0.1, PsyMedRP-v1-13B, Thespis-13b-v0.2 и airoboros-l2-13b-3.0. Максимальная длина контекста — 4096 токенов. Для модели также упомянуты сторонние сборки GGUF, GPTQ, EXL2 и AWQ, но этот репозиторий содержит FP16-веса.

Автор подчёркивает экспериментальный характер модели, поэтому качество ответов может быть нестабильным. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и запрещающая коммерческое применение.

Сценарии применения

  • ролевое общение с чат-ботом
  • генерация ответов для ERP-сценариев
  • продолжение текста по шаблону Alpaca
  • генерация текста общего назначения

Ограничения

Автор характеризует модель как высокоэкспериментальную, поэтому качество и стабильность ответов не гарантированы. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Experimental Athena v4 model. Use Alpaca format. Suitable for RP, ERP and general stuff.

I should state here that this is a HIGHLY experimental model!

Description

This repo contains fp16 files of Athena-V4.

GGUF - By TheBloke

GPTQ - By TheBloke

exl2 - by waldie

AWQ - By TheBloke

fp16 - by IkariDev+Undi95

OLD(GGUF - by IkariDev+Undi95)

Ratings:

Note: I have permission of all users to upload their ratings, i DONT screenshot random reviews without asking if i can put them here!

image/png

If you want your rating to be here, send me a message over on DC and ill put up a screenshot of it here. DC name is "ikaridev".

Models+loras used and recipe

  • Athena-v3
  • Xwin-LM/Xwin-LM-13B-V0.1
  • Undi95/PsyMedRP-v1-13B
  • cgato/Thespis-13b-v0.2
  • jondurbin/airoboros-l2-13b-3.0
Athena-v4-tmp1 = [ Athena-v3(0.85)+Xwin-LM/Xwin-LM-13B-V0.1(0.15) ]
Athena-v4-tmp2 = [ Undi95/PsyMedRP-v1-13B(0.55)+cgato/Thespis-13b-v0.2(0.45) ]

Athena-v4-tmp3 = Athena-v4-tmp1(0.55) + Athena-v4-tmp2(0.35)

Athena-v4 = Athena-v4-tmp3 + jondurbin/airoboros-l2-13b-3.0(0.1)

Prompt template: Alpaca

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

Thanks to Undi95 for providing the machine for Athena v2 and Athena v3, and giving me infos about how things work. Going forward i will use a merging server provided by a friend.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
73905b8

0 моделей