/ Модель

Характеристики

Лицензия
GPL 3.0
Базовая модель
Qwen2.5-7B-Instruct-Uncensored
Опубликована
17 окт 2024

Meissa-Qwen2.5-7B-Instruct-GGUF

Генерация текстаТекст → текст3 профессии

QuantFactory/Meissa-Qwen2.5-7B-Instruct-GGUF — квантизированная версия модели Meissa-Qwen2.5-7B-Instruct, разработанная QuantFactory с использованием llama.cpp на основе Orion-zhen/Qwen2.5-7B-Instruct-Uncensored.

2 713скачиваний за 30 дней10лайковвеса обновлены25 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это текстовая generative-модель для генерации текста, прежде всего для написания художественных произведений и ролевых сценариев.

Модель дообучена методом SFT на наборах данных, связанных с художественным письмом, ролевыми диалогами, карточками персонажей и литературными промптами. Заявлены поддерживаемые языки zh и en. Архитектура относится к семейству Qwen2.5, размер базовой модели — 7B параметров; GGUF-квантизация предназначена для запуска через совместимое программное обеспечение на базе llama.cpp и может снизить требования к памяти, однако конкретные варианты квантизации в README не указаны. Данные о размере контекста, модальностях и производительности отсутствуют.

Сильная сторона модели — специализация на творческой генерации и roleplay благодаря тематике обучающих данных. Ограничения включают отсутствие подтверждённых показателей качества, сведений о контекстном окне и подробностей квантизации. Модель распространяется по лицензии GPL-3.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

QuantFactory Banner

QuantFactory/Meissa-Qwen2.5-7B-Instruct-GGUF

This is quantized version of Orion-zhen/Meissa-Qwen2.5-7B-Instruct created using llama.cpp

Original Model Card

Meissa-Qwen2.5-7B-Instruct

Meissa is designated Lambda Orionis, forms Orion's head, and is a multiple star with a combined apparent magnitude of 3.33. Its name means the "shining one".

This model is fine tuned over writing and role playing datasets (maybe the first on qwen2.5-7b), aiming to enhance model's performance in novel writing and roleplaying.

The model is fine-tuned over Orion-zhen/Qwen2.5-7B-Instruct-Uncensored

Training details

I used SFT method. Datasets used are listed below:

  • anthracite-org/stheno-filtered-v1.1
  • MinervaAI/Aesir-Preview
  • Epiculous/Synthstruct-Gens-v1.1-Filtered-n-Cleaned
  • anthracite-org/nopm_claude_writing_fixed
  • Gryphe/Sonnet3.5-Charcard-Roleplay
  • nothingiisreal/DirtyWritingPrompts
  • Orion-zhen/tagged-pixiv-novel

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
4080b97

0 моделей