/ Модель

Характеристики

Контекст
131 072 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Архитектура
llama · dense
Базовая модель
EVA-LLaMA-3.33-70B-v0.0
Библиотека
transformers
Опубликована
9 дек 2024

Llama-SoraEToAtetaTegami-3.1X-70B

Генерация текстаТекст → текст4 профессии

Объединённая 70-миллиардная модель Llama для генерации текста, диалогов и творческих историй.

29скачиваний за 30 дней1лайквеса обновлены13 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KaraKaraModel/Llama-SoraEToAtetaTegami-3.1X-70B — экспериментальная объединённая модель на архитектуре Llama, созданная с помощью mergekit методом TIES. В основе объединения лежит EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.0; также включена Blackroot/Mirai-70B-1.0. Модель содержит 69,5 млрд параметров и рассчитана на контекст до 131 072 токенов.

Модель предназначена для генерации текста и диалогов, включая творческое письмо и ролевые беседы. Автор отмечает хорошие многоязычные способности, но предупреждает о нестабильном поведении: для получения удачного ответа иногда требуется повторно сформулировать запрос. Рекомендуются высокая температура 1,6, Top-A 0,05 и Min-P 0,05; автор не рекомендует использовать штраф за повторения. Лицензия в предоставленных данных не указана.

Сценарии применения

  • ведение ролевых диалогов
  • написание творческих историй
  • генерация многоязычных ответов
  • эксперименты с генерацией текста на длинном контексте

Ограничения

Автор предупреждает, что модель капризна и может требовать нескольких переформулировок запроса. Штраф за повторения может ухудшать результат.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-SoraEToAtetaTegami-3.3-3.0-70B

image/png

SAO Good anime.

Merge notes:

  • While the model has too much Mirai, it's usable.
  • It is VERY finicky and tempremental! Be prepared to reprompt a couple of times for better responses.
  • This model is very well a shitpost merge because I thought: "Can we try L3.3 and L3.0/3.1 models lol"
  • I'm sure it can do cursed things.
  • Multilingual capabilities are suprisingly good.

This is a merge of pre-trained language models created using mergekit.

Recommended Settings

Temperature: 1.6
Top A: 0.05
Min P: 0.05

Like Mirai, it doesn't enjoy Repetition Penalty.

Merge Details

Merge Method

This model was merged using the TIES merge method using EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.0 as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  - model: Blackroot/Mirai-70B-1.0
    parameters:
      density: 0.6
      weight: 0.5
  - model: EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.0
    parameters:
      density: 0.4
      weight: 0.5

merge_method: ties
base_model: EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.0
parameters:
  normalize: true
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
4455304

0 моделей