Характеристики

Лицензия: Gemma
Базовая модель: Boulesis-26B-A4B
Библиотека: llama.cpp
Опубликована: 5 сен 2026

Ссылки

Boulesis-26B-A4B-GGUF

Генерация текстаТекст → текст3 профессии

Boulesis-26B-A4B-GGUF — квантизированная версия экспериментальной модели Boulesis-26B-A4B, разработанной SubMaroon и квантизированной spiritfather в формате GGUF для запуска через llama.cpp.

638скачиваний за 30 дней4лайкавеса обновлены16 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель основана на Google Gemma-4-26B-A4B-it и предназначена прежде всего для генерации текста, творческого письма и roleplay-сценариев. По заявлению автора исходной модели, она объединяет компоненты для маршрутизации внимания из Pantheon-Reasoning-1.1, стилевую голову из StyleTune-V2, narrative RP LoRA и heretic base coder3101.

Доступны варианты Q4_K_M размером 17,2 ГБ, Q6_K размером 23,2 ГБ и Q8_0 размером 27,6 ГБ. Модель поддерживает режим рассуждений, а встроенный шаблон чата исправляет проблему исходного шаблона Gemma-4; для корректной работы рекомендуется использовать актуальную версию llama.cpp с параметром --jinja. В README указан контекст до 32 768 токенов. Основные сильные стороны модели — ориентация на качество прозы, ролевое взаимодействие и следование творческим сценариям; результаты CaliperBench характеризуют именно эти качества, а не общий интеллект.

Это только набор квантизаций исходной модели, поэтому возможности и ограничения Boulesis-26B-A4B-GGUF зависят от базовой модели и выбранного уровня квантования. README не указывает полный список поддерживаемых языков и не приводит подробных ограничений качества. Модель распространяется на условиях Gemma Terms of Use, унаследованных от базовой модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Boulesis-26B-A4B — GGUF (static quants)

[!Note] All credit for the model goes to SubMaroon, who produced Boulesis-26B-A4B — an experimental Gemma-4-26B-A4B RP merge that splices attention circuits (QK routing from Pantheon-Reasoning-1.1, a transplanted style head from StyleTune-V2, a narrative RP LoRA) onto the coder3101 heretic base. These are quantizations only.

[!Tip] Benchmarked on CaliperBench — a creative-writing benchmark scoring prose craft, roleplay and willingness rather than general intelligence. See this model's scores: caliperbench.com

[!Important] These GGUFs embed the fixed Gemma-4 chat template. The author's shipped template omits the thought-channel prime on the thinking path, so thinking mode returns empty content on stock llama.cpp; the embedded one is corrected. Serve with --jinja and pass --no-reasoning-preserve for multi-turn thinking, or the model re-reads its own earlier thoughts and answers with reasoning only.

Provided quants

Quant	Size	Notes
Q4_K_M	17.2 GB	fast, recommended
Q6_K	23.2 GB	very good quality
Q8_0	27.6 GB	fast, best quality

Loading (any current llama.cpp)

llama-server -m Boulesis-26B-A4B.Q6_K.gguf -ngl 99 -fa on -c 32768 -ctk q8_0 -ctv q8_0 --jinja --no-reasoning-preserve

Thinking: on by default. Turn off per request with chat_template_kwargs: {"enable_thinking": false} or serve with --reasoning off --reasoning-budget 0. With thinking on, cap it per request with thinking_budget_tokens (1536 is plenty for roleplay).

Quant recipe

bf16 GGUF from the safetensors via convert_hf_to_gguf.py (llama.cpp b10819); the author's repo ships a placeholder tokenizer.json, so the base google/gemma-4-26B-A4B-it tokenizer (shared by the whole 26B-A4B family) was used for the conversion. Plain llama-quantize from that bf16 — no requantizing from a lower quant. The i1 set uses an imatrix computed on the same bf16 over bartowski calibration_datav3.

License

Gemma Terms of Use, inherited from the base model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: f1ef1cb