/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
qwen3-4b-roleplay-lora
Библиотека
peft
Опубликована
10 дек 2025

qwen3-4b-roleplay-lora-F16-GGUF

Генерация текстаТекст → текст3 профессии

LoRA-адаптер для ролевых диалогов и творческого письма на базе Qwen3-4B, преобразованный в GGUF F16 для llama.cpp.

107скачиваний за 30 дней0лайковвеса обновлены10 дек 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это LoRA-адаптер для Qwen3-4B, преобразованный в формат GGUF F16 для использования с llama.cpp. Репозиторий rockerBOO/qwen3-4b-roleplay-lora-F16-GGUF содержит адаптер, который подключается к базовой модели через параметр LoRA в llama-cli или llama-server; сам по себе он не является полной моделью. Адаптер предназначен для генерации диалогов и ролевых ответов, а также творческого письма.

Он обучен с использованием набора rockerBOO/Gryphe-Sonnet3.5-Charcard-Roleplay-filtered. Указана лицензия Apache-2.0. Для работы нужны совместимые базовые веса Qwen3-4B и llama.cpp.

Сценарии применения

  • генерация реплик от лица заданного персонажа
  • ведение ролевого диалога
  • создание художественных диалогов
  • продолжение творческого текста

Ограничения

Это адаптер, которому для работы требуются совместимые базовые веса; сам по себе он не запускается как полноценная модель. README не приводит результаты оценки качества или подтверждённый список поддерживаемых языков.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

rockerBOO/qwen3-4b-roleplay-lora-F16-GGUF

This LoRA adapter was converted to GGUF format from rockerBOO/qwen3-4b-roleplay-lora via the ggml.ai's GGUF-my-lora space. Refer to the original adapter repository for more details.

Use with llama.cpp

# with cli
llama-cli -m base_model.gguf --lora qwen3-4b-roleplay-lora-f16.gguf (...other args)

# with server
llama-server -m base_model.gguf --lora qwen3-4b-roleplay-lora-f16.gguf (...other args)

To know more about LoRA usage with llama.cpp server, refer to the llama.cpp server documentation.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · peft

Нельзя запустить

Репозиторий содержит только адаптер (LoRA/PEFT) без базовой модели.

Ревизия весов
d13224c

0 моделей