/ Модель

Характеристики

Лицензия
Gemma
Базовая модель
Lilith-31B-v1.0
Библиотека
gguf
Опубликована
25 июн 2026

Lilith-31B-v1.0-GGUF

Генерация текстаТекст → текст3 профессии

Lilith-31B-v1.0-GGUF — квантизированная версия модели Lilith-31B-v1.0, разработанная darthcrawl на базе Gemma-4-31B.

445скачиваний за 30 дней3лайкавеса обновлены26 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для ролевого общения и творческого письма, включая работу с character cards в SillyTavern и pluma. Она ориентирована на живую, разнообразную и менее повторяющуюся генерацию текста, поддерживает сценарии с контентом для взрослых и не позиционируется как модель для всех аудиторий.

В основе лежит Gemma-4-31B-it, адаптированная методом QLoRA с настройкой всех линейных слоёв. Обучение проводилось на корпусе объёмом около 30 млн токенов из восьми отобранных источников, примерно в соотношении 40% NSFW и 60% SFW. Модель использует шаблон чата Gemma-4 и рассчитана прежде всего на английский язык. Доступны варианты GGUF с разной степенью квантизации: от IQ3_M и Q3_K_M для ограниченной видеопамяти до Q8_0 с почти исходным качеством; размер файлов составляет примерно от 14,4 до 32,6 ГБ.

Сильной стороной модели является выразительная и вариативная генерация в ролевых и художественных сценариях. Для запуска рекомендуется llama.cpp; IQ-квантизации используют imatrix, а для обслуживания требуется параметр --jinja. Ограничения связаны с узкой специализацией на roleplay и creative writing, наличием NSFW-контента и возможными потерями качества в более агрессивных вариантах квантизации. Модель распространяется по лицензии Gemma.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Lilith-31B-v1.0 (GGUF)

Versatile uncensored roleplay / creative-writing model on Gemma-4-31B. Drives any character card (SillyTavern / pluma), built to be lively and varied rather than flat or repetitive. darthcrawl. Explicit-capable.

  • Base: coder3101/gemma-4-31B-it-heretic (decensored Gemma-4-31B-it)
  • Method: QLoRA r32/alpha64 all-linear, loss masked to model turns, 1 epoch eval-driven. Release = the ~0.39-epoch checkpoint (eval 2.11 vs base 7.03), picked over the fully-trained one to keep prose lively (loss != liveliness).
  • Data: ~30M tokens, 8 curated sources (human forum RP, AO3, curated public RP, curated synth), ~40/60 NSFW/SFW.
  • Chat template: Gemma-4 (<|turn>user ... <turn|> / <|turn>model ...).
  • Sampling tip: DRY + XTC + modest repetition penalty for max variety.

Siblings: Lilith-31B-v1.0 (bf16) | -LoRA | -GGUF | -MLX-4bit/6bit/8bit

Quants

FileSizeNotes
Q3_K_M15.3 GBtight VRAM
Q4_K_M18.7 GBbalanced
Q5_K_M21.8 GB
Q6_K25.2 GBfits 32GB w/ --cache-type-k/v q8_0
Q8_032.6 GBnear-lossless
IQ4_XS16.7 GBimatrix, best quality-per-GB at 4-bit
IQ3_M14.4 GBimatrix, tightest usable VRAM

IQ quants use a register-calibrated imatrix (3MB of held-out corpus prose, imat_register.dat in this repo). Serve with llama.cpp --jinja.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
e9f2944

0 моделей