Характеристики

Лицензия: Своя лицензия
Опубликована: 13 мая 2024

Ссылки

Loyal-Macaroni-Maid-7B-imatrix-GGUF

Генерация текстаТекст → текст3 профессии

Loyal-Macaroni-Maid-7B-imatrix-GGUF — набор квантизированных моделей в формате GGUF с использованием imatrix, созданный пользователем duyntnet на основе Loyal-Macaroni-Maid-7B от SanjiWatsuki.

1 608скачиваний за 30 дней1лайквеса обновлены13 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста по инструкциям и диалогового использования, включая сценарии ролевого общения в SillyTavern.

Модель имеет размер 7B параметров, относится к текстовым генеративным моделям и поддерживает английский язык. README указывает на совместимость с шаблоном Noromaid, пользовательским форматом запросов и форматом Alpaca. Для SillyTavern рекомендуются отдельные настройки контекста, инструкций и генерации, однако точные параметры архитектуры и размер контекстного окна не указаны.

К сильным сторонам относятся специализированная настройка под диалоговые и ролевые сценарии, наличие квантизированных GGUF-вариантов и рекомендации по форматам промптов. Ограничения включают отсутствие подробных сведений о качестве, бенчмарках, поддерживаемых квантизациях и точных требованиях к ресурсам. Лицензия обозначена как other, без дополнительных условий использования в представленном README.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Quantizations of https://huggingface.co/SanjiWatsuki/Loyal-Macaroni-Maid-7B

From original readme

Prompt template: Custom format, or Alpaca

Custom format:

I found the best SillyTavern results from using the Noromaid template.

SillyTavern config files: Context, Instruct. Additionally, here is my Text Completion preset

Otherwise, I tried to ensure that most of the underlying merged models were Alpaca-ish.

Alpaca:

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 367a344