/ Модель
Каталог

Характеристики

Контекст
16 384 токена
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
Llama 2
Архитектура
llama · dense
Опубликована
23 сен 2023

Ссылки

Hugging Face

EverythingLM-13b-V3-16k

totally-not-an-llm
Генерация текстаТекст → текст7 профессий

Дообученная на EverythingLM-V3 13-миллиардная модель на базе Llama 2 для подробного диалога, творческого письма и ролевых сценариев с контекстом до 16 384 токенов.

99скачиваний за 30 дней6лайковвеса обновлены23 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

EverythingLM-13b-V3-16k — универсальная текстовая модель для генерации ответов, разработанная на основе Llama 2 и обученная на датасете EverythingLM-V3. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 16 384 токенов; в карточке указана библиотека PyTorch и формат весов PyTorch.

Модель предназначена для диалога и генерации подробных ответов, творческих историй и ролевых сценариев. Разработчик отмечает понимание запросов и автоматически запускаемые рассуждения CoT. Для диалога приведён формат Alpaca-chat с маркерами USER и ASSISTANT. Карточка описывает модель как uncensored, но отмечает, что базовая модель может сопротивляться некоторым запросам и иногда требует подбора формулировок.

Это дообучение Llama 2 на EverythingLM-V3; базовая модель использует лицензию Llama 2. Модель опубликована в сентябре 2023 года. Заявленные качества и поведение основаны на описании разработчика и не сопровождаются количественными результатами оценки.

Сценарии применения

  • подготовка подробных ответов в диалоге
  • написание творческих историй
  • ведение ролевых диалогов
  • ответы на длинные запросы с учётом контекста
  • генерация текста с рассуждениями CoT

Ограничения

Разработчик предупреждает, что базовая модель может сопротивляться некоторым запросам, и для таких случаев может потребоваться подбор формулировок. Карточка не приводит количественных результатов оценки.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIII.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594моделиIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

EverythingLM-13b-V3-16k

Introducing EverythingLM, a llama-2 based, general-purpose 13b model with 16k context thanks to LlongMa. The model is trained on the EverythingLM-V3 dataset, more info can be found on the dataset page.

The model is completely uncensored.

Despite being "uncensored", the base model might be resistant; you might have to prompt-engineer certain prompts.

Quants (Thanks TheBloke!):

https://huggingface.co/TheBloke/EverythingLM-13B-V3-16K-GGUF

https://huggingface.co/TheBloke/EverythingLM-13B-V3-16K-GPTQ

https://huggingface.co/TheBloke/EverythingLM-13B-V3-16K-AWQ

Notable features:

  • Automatically triggered CoT reasoning.
  • Verbose and detailed replies.
  • Creative stories.
  • Good prompt understanding.

Differences from V2:

  • Much more uncensored.
  • Actual roleplaying ability now!
  • General all around improvements thanks to the new dataset. Check out the dataset for more info.

Prompt format (Alpaca-chat):

USER: <prompt>
ASSISTANT:

Future plans:

  • Highest priority right now is V3.1 with more optimized training and iterative dataset improvements based on testing.

Note:

Through testing V2, I realized some alignment data had leaked in, causing the model to be less cooperative then intended. This model should do much better due to stricter filetering.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1de9244

0 моделей

    Создать бенчмарк