/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
15,2 ГБ
Лицензия
CreativeML OpenRAIL-M
Архитектура
qwen2 · dense
Базовая модель
Qwen2.5-7B-Instruct
Библиотека
transformers
Опубликована
5 дек 2024

Novaeus-Promptist-7B-Instruct

Генерация текстаТекст → текст6 профессий

Дообученная Qwen2.5-7B-Instruct для улучшения промптов и генерации текста по инструкциям.

52скачиваний за 30 дней5лайковвеса обновлены23 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Novaeus-Promptist-7B-Instruct — дообученная инструктивная языковая модель на базе Qwen2.5-7B-Instruct, опубликованная пользователем prithivMLmods. Она предназначена прежде всего для улучшения текстовых промптов: переформулирует и уточняет запросы, чтобы сделать их более пригодными для последующей генерации. Также поддерживает генерацию текста по инструкциям, включая творческое письмо, суммаризацию, перефразирование и ответы на вопросы.

Модель построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, принимает и генерирует текст, использует Transformers и формат safetensors; заявленная длина контекста — 32 768 токенов. В карточке указана поддержка английского языка. Лицензия — CreativeML OpenRAIL-M. Качество улучшения промптов и ответов зависит от формулировки запроса; отдельные гарантии качества в карточке не приводятся.

Сценарии применения

  • уточнение и переформулировка промптов для генеративных моделей
  • подготовка промптов для создания изображений и текстов
  • суммаризация длинного текста
  • перефразирование текста
  • ответы на вопросы по заданной инструкции
  • генерация рассказов, стихов и сценариев

Ограничения

В карточке не приведены сравнительные оценки качества или подробные ограничения; результаты зависят от исходного запроса. Поддержка английского указана в метаданных, другие языки не подтверждены.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Novaeus-Promptist-7B-Instruct Uploaded Model Files

The Novaeus-Promptist-7B-Instruct is a fine-tuned large language model derived from the Qwen2.5-7B-Instruct base model. It is optimized for prompt enhancement, text generation, and instruction-following tasks, providing high-quality outputs tailored to various applications.

File Name [ Uploaded Files ]SizeDescriptionUpload Status
.gitattributes1.57 kBGit attributes configuration for LFS.Uploaded
README.md400 BytesDocumentation about the model.Updated
added_tokens.json657 BytesCustom tokens for tokenizer.Uploaded
config.json860 BytesConfiguration for the model.Uploaded
generation_config.json281 BytesConfiguration for text generation.Uploaded
merges.txt1.82 MBByte-pair encoding (BPE) merge rules.Uploaded
pytorch_model-00001-of-00004.bin4.88 GBModel weights (split part 1).Uploaded (LFS)
pytorch_model-00002-of-00004.bin4.93 GBModel weights (split part 2).Uploaded (LFS)
pytorch_model-00003-of-00004.bin4.33 GBModel weights (split part 3).Uploaded (LFS)
pytorch_model-00004-of-00004.bin1.09 GBModel weights (split part 4).Uploaded (LFS)
pytorch_model.bin.index.json28.1 kBIndex file for model weights.Uploaded
special_tokens_map.json644 BytesMap of special tokens for tokenizer.Uploaded
tokenizer.json11.4 MBTokenizer data in JSON format.Uploaded (LFS)
tokenizer_config.json7.73 kBTokenizer configuration file.Uploaded
vocab.json2.78 MBVocabulary for tokenizer.Uploaded

Screenshot 2024-12-07 113150.png

Key Features:

  1. Prompt Refinement:
    Designed to enhance input prompts by rephrasing, clarifying, and optimizing for more precise outcomes.

  2. Instruction Following:
    Accurately follows complex user instructions for various generation tasks, including creative writing, summarization, and question answering.

  3. Customization and Fine-Tuning:
    Incorporates datasets specifically curated for prompt optimization, enabling seamless adaptation to specific user needs.


Training Details:

  • Base Model: Qwen2.5-7B-Instruct
  • Datasets Used for Fine-Tuning:
    • gokaygokay/prompt-enhancer-dataset: Focuses on prompt engineering with 17.9k samples.
    • gokaygokay/prompt-enhancement-75k: Encompasses a wider array of prompt styles with 73.2k samples.
    • prithivMLmods/Prompt-Enhancement-Mini: A compact dataset (1.16k samples) for iterative refinement.

Capabilities:

  • Prompt Optimization:
    Automatically refines and enhances user-input prompts for better generation results.

  • Instruction-Based Text Generation:
    Supports diverse tasks, including:

    • Creative writing (stories, poems, scripts).
    • Summaries and paraphrasing.
    • Custom Q&A systems.
  • Efficient Fine-Tuning:
    Adaptable to additional fine-tuning tasks by leveraging the model's existing high-quality instruction-following capabilities.


Usage Instructions:

  1. Setup:

    • Ensure all necessary model files, including shards, tokenizer configurations, and index files, are downloaded and placed in the correct directory.
  2. Load Model:
    Use PyTorch or Hugging Face Transformers to load the model and tokenizer. Ensure pytorch_model.bin.index.json is correctly set for efficient shard-based loading.

  3. Customize Generation:
    Adjust parameters in generation_config.json to control aspects such as temperature, top-p sampling, and maximum sequence length.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
8deb43d

0 моделей