/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
15 июн 2024

L3-Inca-8B-v0.5

Генерация текстаТекст → текст

Слитая чат-модель на базе Llama 3 для ролевых диалогов, ERP и следования инструкциям с контекстом до 32 768 токенов.

19скачиваний за 30 дней0лайковвеса обновлены19 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

L3-Inca-8B-v0.5 — чат-модель на архитектуре Llama 3, созданная Ppoyaa слиянием нескольких моделей на базе NurtureAI/Meta-Llama-3-8B-Instruct-32k. Она предназначена для диалогов, ролевых игр и ERP, а также заявлена как сильная в следовании инструкциям. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 32 768 токенов.

Модель принимает текст и генерирует текст. В README она описана как неограниченная по тематике; это указывает на возможность выдавать контент для взрослых, хотя конкретные границы такого контента не уточняются. Файлы опубликованы в формате safetensors, а лицензия — Apache-2.0. Качество и ограничения за пределами заявленных сценариев в карточке не оценены.

Сценарии применения

  • ролевые диалоги с персонажами
  • ERP-диалоги для взрослых
  • чат с инструкциями и запросами пользователя

Ограничения

Языки и качество на конкретных задачах не описаны. Заявление о неограниченной тематике не задаёт точных границ допустимого контента.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

1718719796324.png


L3-Inca-8B-v0.5

L3-Inca-8B-v0.5 is a merge of the following models:

using NurtureAI/Meta-Llama-3-8B-Instruct-32k as the base.

  • Made with RP/ERP in mind.
  • Supports a context length of 32k.
  • Strong at instruction following.
  • Fully uncensored.

Recommend Preset Settings:

Top K: 40
Top P: 0.95
Min P: 0.075
Rep Pen: 1.05
Rep Pen Range: 2048
Frequency Pen: 0.50
Presence Pen: 0.15

GGUF

mradermacher: L3-Inca-8B-v0.5-GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
3a47090

0 моделей