/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Базовая модель
L3-Asbac-8B
Библиотека
transformers
Опубликована
23 апр 2024

Poppy_Porpoise-v0.7-L3-8B

Генерация текстаТекст → текст7 профессий

Объединённая модель Llama на 7,5 млрд параметров для диалогов и генерации текста с заявленной поддержкой изображений через Llava MMProj.

34скачиваний за 30 дней48лайковвеса обновлены7 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Nitral-AI/Poppy_Porpoise-v0.7-L3-8B — объединённая автором модель на архитектуре Llama для генерации текста и диалогового общения. В метаданных указаны 7,5 млрд параметров и контекст до 8192 токенов; для работы с изображениями README упоминает мультимодальную версию с файлом Llava MMProj и актуальными версиями Koboldcpp.

Модель может использоваться для диалогов и генерации текстовых ответов, а при подключении указанного проектора — для сценариев с изображениями. Веса опубликованы в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.

Сценарии применения

  • ведение диалогов с пользователем
  • генерация текстовых ответов по запросу
  • описание изображений при подключении Llava MMProj

Ограничения

Для сценариев с изображениями требуется отдельный Llava MMProj и актуальная версия Koboldcpp. Условия лицензии обозначены как other и требуют проверки в карточке модели.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

"Poppy Porpoise" is a cutting-edge AI roleplay assistant based on the Llama 3 8B model, specializing in crafting unforgettable narrative experiences. With its advanced language capabilities, Poppy expertly immerses users in an interactive and engaging adventure, tailoring each adventure to their individual preferences.

image/png

Recomended ST Presets: Porpoise Presets

Quants From the boi: @Lewdiculus-Poppy-Quants

4-bpw-exl2 quant: here

If you want to use vision functionality:

  • You must use the latest versions of Koboldcpp.

To use the multimodal capabilities of this model and use vision you need to load the specified mmproj file, this can be found inside this model repo. Llava MMProj

  • You can load the mmproj by using the corresponding section in the interface:

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
fa3c5c4

0 моделей