Характеристики

Лицензия: MIT
Базовая модель: gemma-3-270m-it
Опубликована: 8 июн 2026

Ссылки

gemma-3-270m-prompt-rewriter-GGUF

Генерация текстаТекст → текст

Компактная модель, которая превращает короткие пользовательские команды в подробные структурированные системные промпты для LLM.

129скачиваний за 30 дней1лайквеса обновлены8 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Gemma 3 270M Prompt Rewriter — небольшая текстовая модель, дообученная skyerx на основе google/gemma-3-270m-it и распространяемая в формате GGUF F16. Она принимает короткую неформальную команду и преобразует её в подробный структурированный системный промпт для другой LLM, включая план компонентов, проверки и обработку ошибок. Модель рассчитана на локальный запуск, в том числе через Ollama, и выполняет прямое дополнение текста без многошагового диалогового режима.

В карточке указано, что из мультимодальной конфигурации Gemma удалены компоненты обработки изображений, поэтому эта сборка предназначена только для текста. Репозиторий распространяется по лицензии MIT. Карточка не приводит результатов оценки качества; специализация и небольшой размер модели могут ограничивать надёжность и детализацию сложных инструкций.

Сценарии применения

переписывание краткого запроса в подробный системный промпт
составление промпта с этапами реализации и проверками
добавление в промпт инструкций по обработке ошибок
подготовка структурированного задания для локальной LLM

Ограничения

Модель предназначена для прямого текстового дополнения, а не для многошагового диалога, и не обрабатывает изображения. В карточке не приведены оценки качества; небольшой размер может ограничивать работу со сложными запросами.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma 3 270M Prompt Rewriter (GGUF)

This repository hosts a lightweight, edge-optimized f16 GGUF conversion of a fine-tuned Gemma 3 270M model. It is specifically engineered for raw text-completion sequences, transforming brief, casual user commands into comprehensive, structured, production-ready system prompts for LLMs.

Dataset Hub: For the underlying training pairs, view the official Prompt Rewriter Dataset.

Model Overview & Fine-Tuning Details

Unlike conversational models that maintain ongoing multi-turn chat dynamics, this model was fine-tuned specifically for direct completion tasks. By bypassing traditional conversational tokens (<start_of_turn>, assistant, etc.), the architecture learns a direct mapping from a short input directly to the desired complex prompt structure.

Key Characteristics:

Architecture Base: Google Gemma 3 (270M Parameter variant).
Quantization Profile: Uncompressed f16 GGUF execution layers.
Token Structure Alignment: Built using a modified 262,144 structural tensor configuration, eliminating vision-encoder padding tokens (<image_soft_token> native to Gemma 3's multimodal architecture) to streamline local CPU/GPU text-only inference.
Target Behavior: Ingests minimal context prompts and outputs detailed implementation blueprints (including component breakdowns, validation strategies, and error-handling steps).

Detailed Local Setup Guide with Ollama

Follow these steps to pull down your files and register your prompt rewriter model locally using Ollama.

Prerequisites

Make sure you have Ollama installed and running on your machine:

Download: ollama.com/download
Verify installation: Open your terminal or PowerShell and run ollama --version

Step 1: Download the Model Artifacts

Download both rewriter.gguf and the companion Modelfile from the Files and versions tab of this repository, and place them together in a single folder on your local machine (e.g., C:\AI\Models\ or ~/models/).

Step 2: Open Your Terminal

Navigate into the directory where you saved the files:

Windows (PowerShell or Command Prompt):
```
cd C:\AI\Models
```
macOS / Linux (Terminal):
```
cd ~/models
```

Step 3: Register and Build the Model Fresh

Run the create command to parse your local Modelfile layout and compile a clean model configuration image within Ollama's local registry.

(Note: If you are replacing an older execution layer, run ollama rm gemma-3-270m-prompt-rewriter first to clear historical caches).

ollama create gemma-3-270m-prompt-rewriter -f ./Modelfile

Step 4: Run the Model

Once the build completes successfully, initialize your model inside the local inference runner:

ollama run gemma-3-270m-prompt-rewriter

How to Interact with this Model

Because this model is configured strictly for raw text completion rather than conversational chat loops, it expects a short string input.

Once the interactive >>> prompt appears, simply type your short intent:

>>> build a todo api

The model will process the input sequence instantly and output a structured, production-ready system prompt layout before cleanly terminating the generation stream via the <eos> boundary.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов: 3aed0ec