/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
20 дек 2023

FlatOrcamaid-13b-v0.2

Генерация текстаТекст → текст3 профессии

Объединённая модель Llama на 13 млрд параметров для генерации текста, ролевых диалогов и задач общего характера.

32скачиваний за 30 дней5лайковвеса обновлены21 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FlatOrcamaid-13b-v0.2 — объединённая IkariDev модель на базе FlatOrca и Noromaid 13B v0.2. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, предназначенная для генерации текста, ролевых диалогов, откровенных ролевых сценариев и задач общего характера. Модель принимает текстовые запросы; для общения можно использовать рекомендованный авторами собственный формат промптов или шаблон Alpaca. Контекст — до 4096 токенов.

В репозитории размещены веса FP16 в формате Safetensors; README также упоминает выпуск GGUF. Автор карточки отмечает, что рекомендуемые настройки генерации пока не определены. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Сценарии применения

  • ведение ролевых диалогов
  • генерация художественных продолжений
  • создание откровенных ролевых сценариев
  • ответы на инструкции в формате Alpaca
  • генерация текста общего назначения

Ограничения

Рекомендуемые параметры генерации не опубликованы, поэтому качество может зависеть от настройки промпта и декодирования. Лицензия запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png


Disclaimer:

If you don't like this model, use Noromaid 0.1.1, or Noromaid 0.2

You may use our custom prompting format(scroll down to download them!), or simple alpaca. (Choose which fits best for you!)


If you want a 7b, or 20b hit us up in the Community tab!

Merge was by me(IkariDev) alone this time.

FlatOrca(ChatML removed, sorry ChatML bros) + Noromaid 13b 0.2. Suitable for RP, ERP and general stuff.

[Recommended settings - No settings yet(Please suggest some over in the Community tab!)]

Description

This repo contains FP16 files of FlatOrcamaid-13b-v0.2.

FP16 - by IkariDev and Undi

GGUF - by IkariDev and Undi

Ratings:

Note: We have permission of all users to upload their ratings, we DONT screenshot random reviews without asking if we can put them here!

No ratings yet!

If you want your rating to be here, send us a message over on DC and we'll put up a screenshot of it here. DC name is "ikaridev" and "undi".

Prompt template: Custom format, or Alpaca

Custom format:

UPDATED!! SillyTavern config files: Context, Instruct.

Alpaca:

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

slices:
  - sources:
      - model: NeverSleep/Noromaid-13b-v0.2
        layer_range: [0, 40]
      - model: OrcaFlat
        layer_range: [0, 40]
merge_method: slerp
base_model: NeverSleep/Noromaid-13b-v0.2
parameters:
  t:
    - filter: self_attn
      value: [0, 0.4, 0.2, 0.55, 0.8]
    - filter: mlp
      value: [0.7, 0.3, 0.4, 0.3, 0]
    - value: 0.33 # fallback for rest of tensors
dtype: float16

Others

Undi: If you want to support me, you can here.

IkariDev: Visit my retro/neocities style website please kek

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
f305b43

0 моделей